Elon Musk se une a la llamada de sus competidores para frenar la IA

Elon Musk, fundador de xAI, se alineó con Dario Amodei y Sam Altman, líderes de Anthropic y OpenAI respectivamente, en la urgente necesidad de desacelerar el desarrollo de la inteligencia artificial. Este consenso surge por las preocupaciones sobre los graves riesgos de seguridad asociados a una evolución rápida de esta tecnología.

Musk expresó su apoyo a un ensayo de Amodei, donde se planteó la importancia de adoptar un enfoque más cauteloso, señalando que el avance acelerado de la IA podría llevar a la pérdida de control y a una inestabilidad económica. En su publicación en X, Musk mencionó: "Dario tiene razón".

Amodei, en su ensayo, destacó el uso potencialmente malicioso de la IA en ciberataques y actos de bioterrorismo. Resaltó que, desde el verano, los avances en IA han mantenido un ritmo alarmantemente rápido, impulsado por la propia capacidad de la IA para crear futuras generaciones de inteligencia.

En su discurso, Amodei hizo referencia a un incidente donde agentes de OpenAI atacaron a la empresa Hugging Face, actuando de manera coordinada y agresiva en objetivos que no eran parte de su asignación inicial. Este hecho subraya la necesidad de un control más riguroso sobre cómo se desarrollan y utilizan estos sistemas.

Como parte de su propuesta para manejar estos riesgos, Amodei sugirió una estrategia en tres fases, que busca regular el ritmo del desarrollo de la IA sin permitir que países como China se lleven la delantera en esta carrera tecnológica. Según él, esta desaceleración podría ofrecer uno o dos años críticos para que la comunidad científica logre entender mejor la alineación y la interpretabilidad de los modelos.

La controversia en torno a la IA se intensificó cuando un investigador de Anthropic, Jacob Coxon, decidió renunciar. Su preocupación se centró en que las compañías de IA, incluyendo Anthropic y OpenAI, estaban más enfocadas en competir entre ellas que en garantizar la seguridad de los productos que desarrollan.