SN
(SN; con información de Página 12).- Especialistas en inteligencia artificial advirtieron sobre la posibilidad de que esta tecnología supere las capacidades humanas y provoque consecuencias catastróficas. Un alto funcionario de Anthropic estimó que existiría más de un 10% de probabilidades de que la IA pueda “matar a todos los humanos” durante la próxima década.
Evan Hubinger, responsable de uno de los equipos de seguridad de IA de la compañía, reconoció además que Anthropic no cuenta actualmente con un plan capaz de garantizar que una futura superinteligencia artificial permanezca segura, bajo control y alineada con los valores humanos.
Según explicó, el desarrollo de sistemas capaces de perfeccionarse por sí mismos avanza a una velocidad mayor de la prevista. Ese proceso podría permitir que una inteligencia artificial incremente sucesivamente sus capacidades hasta alcanzar un nivel difícil de controlar.
Las declaraciones de Hubinger se conocieron pocas horas después de que Jacob Coxon, investigador británico que trabajó en OpenAI y Anthropic en el entrenamiento de modelos, anunciara su salida de la empresa.
Coxon cuestionó la estrategia de ambas compañías y alertó que están compitiendo para desarrollar sistemas que podrían superar ampliamente las capacidades humanas.
“Estos pronto serán sistemas superhumanos que podrán hackear cualquier cosa, revolucionar cualquier campo de un día para el otro y adquirir poder y recursos reales”, expresó en su cuenta de X.
Más adelante, el investigador lanzó una advertencia todavía más contundente: “Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”.
En los últimos años, diferentes investigadores abandonaron las principales empresas dedicadas a la inteligencia artificial por sus preocupaciones relacionadas con la seguridad. Mientras tanto, las compañías aceleran el desarrollo de modelos cada vez más potentes y sofisticados.
El senador estadounidense Bernie Sanders reclamó que el Congreso regule la tecnología y citó encuestas según las cuales el 81% de los ciudadanos considera que sus representantes políticos deberían intervenir.
“No podemos permitir que un puñado de personas codiciosas jueguen a ser Dios y determinen el futuro de la humanidad —nuestra economía, medio ambiente, democracia, privacidad y más— sin la participación pública”, expresó Sanders.
En el Reino Unido, el diputado laborista Darren Jones pidió avanzar con un “tratado multinacional para el desarrollo regulado y seguro de la superinteligencia”, con un enfoque centrado en la prevención de riesgos.
Des Browne, exsecretario de Defensa británico y actual asesor de ControlAI, comparó el peligro que representa una inteligencia artificial sin control con el riesgo de una guerra nuclear.
“Ahora resulta cada vez más evidente que el desarrollo de una IA superinteligente constituye una amenaza de magnitud similar”, afirmó.
ControlAI es una organización sin fines de lucro que trabaja para prevenir un posible riesgo de extinción provocado por la superinteligencia artificial. Con presencia en Reino Unido, Estados Unidos, Canadá y Alemania, recibe financiamiento de Jaan Tallinn, multimillonario y fundador de Skype.
Tallinn relató que un reconocido investigador le dijo: “No te preocupes por esto. Los humanos somos una especie desechable”. Según su estimación, entre el 10% y el 15% de los trabajadores vinculados con el desarrollo de inteligencia artificial considera que esta tecnología podría convertirse en una sucesora de la humanidad.
Las advertencias reflejan que la inteligencia artificial representa mucho más que un buscador o una herramienta de conversación. Sin necesidad de proyectar escenarios catastróficos, sus efectos ya comienzan a observarse en el mercado laboral.
En agosto, el Consejo Económico y Social de la Ciudad de Buenos Aires (Cesba) presentó el Índice de Exposición Ocupacional a la IA Generativa de la CABA, considerado el primer relevamiento sobre el impacto de esta tecnología en el empleo de una ciudad.
El estudio analizó 39 ocupaciones y arrojó un índice de exposición de 0,353, dentro de una escala en la que cero representa el nivel más bajo y uno, el más alto. De acuerdo con esos resultados, la Ciudad de Buenos Aires está más expuesta al avance de la IA que Estados Unidos, Francia y Reino Unido, y solo es superada por Singapur.
La investigación no plantea un reemplazo generalizado de los puestos de trabajo, sino un proceso de automatización y complementariedad de tareas que modificará profundamente diferentes empleos.
El presidente del Cesba, Manuel Socías, explicó que la estructura productiva porteña, basada principalmente en los servicios, incrementa su exposición a la disrupción tecnológica.
“Eso requiere instancias urgentes de diálogo social tripartito, para que la inteligencia artificial sea una oportunidad y no una amenaza”, concluyó.
