Opinión
MAP. Ricardo Meza Domínguez
México.- Aunque la IA tiene el potencial de mejorar muchas áreas de la vida humana, también hay riesgos asociados con su uso. La inteligencia artificial también posee fallas a medida que la inteligencia artificial (IA) se ha vuelto cada vez más avanzada también han surgido preocupaciones sobre algunas fallas.
Un claro ejemplo de una falla en la IA, sucedió en agosto de 2017, En los primeros días, el sistema de inteligencia artificial de Facebook funcionó a la perfección, sin embargo, la Unidad de Investigación descubrió que los robots Alice y Bob emitían mensajes sin sentido: se trataba de un lenguaje evolucionado e ininteligible para las personas pero sí para los robots.
Dhruv Batra, miembro del equipo de investigación de IA en Facebook, explicó que “los agentes se desviaron de un lenguaje comprensible y crearon unas palabras en código por ellos mismos”, La compañía decidió apagar ambos robots ante la perplejidad por ver que se les estaba escapando de su capacidad.
Una de las principales fallas de la IA es la falta de capacidad para comprender el contexto de lo que sucede y las intenciones humanas. No comprende contextos, la IA se basa en datos y algoritmos para tomar decisiones, pero a menudo carece del conocimiento y la comprensión de las complejidades humanas.
Otra falla de la IA es la tendencia a perpetuar los prejuicios y la discriminación. Como la IA se basa en los datos que se le proporcionan, si los datos contienen prejuicios o sesgos, la inteligencia artificial también puede ser sesgada. Por ejemplo, los sistemas de IA utilizados en la contratación de personal pueden perpetuar los prejuicios existentes en la sociedad, lo que lleva a la discriminación contra ciertos grupos de personas.
La IA puede ser víctima de ataques y manipulaciones maliciosas. Si un atacante puede engañar al sistema de Inteligencia Artificial para que tome decisiones incorrectas, podría causar daño significativo. Por ejemplo, un atacante podría engañar a un sistema de IA que controla una planta de energía para que tome decisiones peligrosas que ponen en peligro la seguridad pública.
También existe el riesgo de que la IA se vuelva demasiado poderosa o se vuelva autónoma. Si la IA se vuelve demasiado avanzada y autónoma, podría tomar decisiones que van en contra de los intereses humanos o podría incluso tomar el control de la sociedad. Este es un escenario de ciencia ficción, pero es importante considerarlo cuando se desarrolla y se utiliza la IA.
