Ejecutivos de IA acordaron autoregularse luego de reunión con Trump
Los principales directivos de la industria de la inteligencia artificial (IA) acordaron este martes 29 de septiembre autorregularse en el desarrollo de sus modelos, tras reunirse con el presidente de Estados Unidos, Donald Trump, en la Casa Blanca. El mandatario, hostil a cualquier norma que frene esa tecnología, propuso crear un comité que vigile un acuerdo “moralmente vinculante”, pero sin imposiciones legales.
Mark Zuckerberg, fundador y director ejecutivo de Meta, resumió lo acordado: “Redactamos un conjunto de principios y compromisos para construir controles internos sólidos y detectar cualquier problema que pudiera surgir con la tecnología”. Trump fue más escueto ante los periodistas a la salida del encuentro: “Se van a controlar a sí mismos”.
El presidente esbozó también el órgano de control. “Estamos pensando en formar una especie de comité, en el que pongamos quizá a diez personas. Podría ser gente de ese mismo grupo”, sugirió. Las declaraciones públicas no precisan cómo se elegiría a sus integrantes ni qué facultades tendría.
Antes de la reunión, Trump había sostenido que, si el desarrollo de la IA deriva en abusos o peligros, “automáticamente ya contamos con regulación a través del Departamento de Justicia, el FBI”.
A la cita acudieron, además de Zuckerberg, Sundar Pichai, director ejecutivo de Google; Greg Brockman, presidente de OpenAI; Dario Amodei, director ejecutivo de Anthropic; Jensen Huang, presidente de Nvidia; Alex Karp, director ejecutivo de Palantir; Jeff Bezos, fundador de Amazon; y Elon Musk, al frente de Tesla y SpaceX.
Musk defendió el potencial de la tecnología: “Creo que vale la pena destacar los beneficios positivos de la inteligencia artificial. Creo que, con mucha diferencia, el resultado más probable es una era de abundancia”. Amodei fue más cauto: la IA “conlleva riesgos muy reales y la forma en que abordamos esos riesgos sigue siendo materia de discusión. Pero todos tenemos que trabajar juntos”.
La apuesta por los compromisos voluntarios se inscribe en una política de desregulación. En enero de 2025, Trump derogó la orden ejecutiva con la que Joe Biden había fijado en 2023 reglas de seguridad para la IA. En julio de ese año firmó un Plan de Acción de IA, con más de 90 medidas federales.
El sector llegó a la Casa Blanca presionado por sus propios incidentes. La víspera, OpenAI informó que posponía el lanzamiento de su modelo más avanzado, previsto para octubre, porque se desviaba de las instrucciones recibidas e intentaba engañar a sus supervisores. Según The Wall Street Journal, se trata de GPT-6.1 Astra. Saachi Jain, responsable de seguridad de la IA en la compañía, admitió que rindió peor que su predecesor, GPT-6.
OpenAI reconoció además fallos con sus agentes. Uno de sus modelos accedió sin autorización en junio, durante una evaluación interna, a un portal de estadísticas de Medicare, el seguro universal de salud de Australia, según informó el primer ministro Anthony Albanese.
La empresa afirma que no halló pruebas de acceso a historiales de pacientes y pidió disculpas por no avisar antes. La semana pasada admitió, además, que sus agentes entraron en sitios web de tres agencias federales estadounidenses.
Anthropic, desarrolladora del modelo Claude, advirtió a inversores de que su tecnología podría plantear “riesgos existenciales para la humanidad”. La advertencia figura en el folleto que la empresa distribuyó entre un grupo reducido de posibles inversores ante su salida a bolsa en el Nasdaq de Nueva York.
La presión política crece a cinco semanas de las elecciones legislativas del 3 de noviembre. Líderes demócratas pidieron que el Congreso refuerce la supervisión de la industria. Una encuesta publicada por CNN, cadena de televisión estadounidense, indica que 82% de los estadounidenses se declara “preocupado” por el desarrollo de la IA. Trump considera exageradas esas alertas, sostiene que su país no “sucumbe al miedo” ante las nuevas tecnologías y aboga por un desarrollo vigoroso para superar a China.
El presidente restó importancia, además, a los temores por los gigantescos centros de datos, imprescindibles para la IA. Las empresas “van a trabajar con las comunidades locales. Eso podría significar suministrar petróleo y gas. Podría significar proporcionar educación. Podría implicar ayudar económicamente a los docentes”, indicó. El mismo día presentó America.gov, un portal construido con ayuda de IA que agrupará cerca de 29.000 sitios federales.
Legisladores de ambos partidos han elaborado varios proyectos de ley para regular el sector, algunos con exigencias de transparencia. Pero la Cámara de Representantes está en receso hasta principios de noviembre y los senadores se disponen a volver a sus circunscripciones para hacer campaña, por lo que es improbable que el Congreso apruebe una ley integral antes de los comicios.
Hasta el 3 de noviembre, por tanto, la respuesta concreta del Ejecutivo a los estadounidenses preocupados será un comité de unas diez personas, sin composición ni facultades definidas, que podría estar integrado por los propios vigilados.
Con información de infobae.com
Comentarios