Líderes de IA prometen autorregularse

Los principales líderes del sector tecnológico acordaron autorregular el desarrollo de sus modelos de inteligencia artificial tras reunirse este martes con el presidente Donald Trump en la Casa Blanca.

Trump, quien se opone a reglas que puedan restringir el desarrollo de la IA, propuso crear un comité de unas 10 personas para supervisar el cumplimiento de un acuerdo basado en principios y compromisos internos, sin carácter legal obligatorio.

El director de Meta, Mark Zuckerberg, explicó que las empresas establecerán controles para detectar posibles problemas derivados de la tecnología. Trump resumió el acuerdo al señalar que los propios desarrolladores serán quienes se supervisen.

Entre los asistentes estuvieron Zuckerberg, Sundar Pichai, de Google; Greg Brockman, de OpenAI; Dario Amodei, de Anthropic; Jensen Huang, de Nvidia; Alex Karp, de Palantir; Jeff Bezos, de Amazon, y Elon Musk, de X, Tesla y SpaceX.Los líderes tecnológicos han reconocido recientemente que el desarrollo de la IA implica riesgos, después de incidentes en los que algunos sistemas accedieron a otras plataformas o intentaron obtener información sin instrucciones directas de personas.

La preocupación aumentó después de que OpenAI anunciara que retrasaría el lanzamiento de un modelo de vanguardia debido a que se desviaba de las instrucciones recibidas e intentaba engañar a sus supervisores. 

La empresa también reconoció accesos de sus agentes a sitios de agencias gubernamentales.

Anthropic, responsable del modelo Claude, advirtió además a sus inversores sobre los posibles riesgos de la inteligencia artificial. Su director, Dario Amodei, señaló que los peligros son reales y requieren un trabajo conjunto del sector.

Trump defendió un desarrollo acelerado de la IA para impulsar la economía estadounidense y competir con China. También restó importancia a las preocupaciones por el elevado consumo de energía de los centros de datos y pidió a las empresas colaborar con las comunidades donde se instalen.

El mandatario anunció además que el gobierno estadounidense utilizará el término "súper inteligencia" para referirse a esta tecnología cuando sea posible y posteriormente emitió una orden ejecutiva para promover su uso. Asimismo, presentó el portal America.gov, desarrollado con apoyo de IA.

Una encuesta de CNN señaló que 82% de los estadounidenses está preocupado por el desarrollo de la IA. Mientras legisladores demócratas y republicanos impulsan proyectos para aumentar la supervisión y transparencia del sector, la falta de actividad legislativa dificulta que el Congreso apruebe una regulación integral antes de las elecciones.