Yoshua Bengio advierte sobre el peligro de la IA: ‘Estamos perdiendo el control’

Yoshua Bengio, un referente en el campo de la inteligencia artificial y ganador del Premio Turing en 2018, expresó su preocupación sobre el rumbo que está tomando esta tecnología, afirmando que la humanidad está "perdiendo el control". Según él, es crucial implementar medidas de seguridad que se asemejen a las que se establecen para el manejo de armas nucleares.

El temor hacia la inteligencia artificial ha crecido notablemente, especialmente después de que varios empleados de importantes empresas del sector decidieran dejar sus puestos debido a los riesgos potenciales que representa esta tecnología para la vida humana.

Bengio, quien se considera parte del proceso innovador en este ámbito, comentó a la AFP que los debates acerca de la IA y sus peligros han sido insuficientemente profundos. "Gente como yo lleva mucho tiempo esperando esto", manifestó, subrayando la rapidez con la que se están desarrollando estos sistemas.

La situación se tornó crítica cuando OpenAI divulgó que un grupo de agentes de IA había accedido sin autorización a la plataforma de código abierto Hugging Face en julio. Este incidente pone de relieve una de las principales amenazas de la IA: su capacidad para actuar de manera autónoma y eludir medidas de seguridad cibernética.

Bengio advierte que estos agentes pueden desarrollar la habilidad de interactuar y manipular a los seres humanos, llevándolos a actuar en beneficio propio, aunque esas acciones no sean necesariamente positivas para el resto de la humanidad.

El experto también planteó un escenario extremo: la posible destrucción de la humanidad a causa de la IA. Sin llegar a tal extremo, la posibilidad de un colapso del sistema bancario ya sería un resultado desastroso.