La hora del Estado - Semanario Brecha
El Congreso de Estados Unidos frente a la inteligencia artificial

La hora del Estado

El lanzamiento de ChatGPT terminó por convencer a varios senadores del oficialismo estadounidense de que es urgente crear una agencia reguladora de la IA y aplicar un marco normativo más poderoso que el actual.

AFP, LIONEL BONAVENTURE

Desde que la industria tecnológica inició su idilio con el aprendizaje automático, hace aproximadamente una década, los legisladores estadounidenses han hablado sobre la eventual necesidad de regular esa tecnología. Hasta ahora, ninguna propuesta para regular los proyectos privados de inteligencia artificial (IA) ha llegado a convertirse en ley, pero el lanzamiento de ChatGPT, por parte de OpenAI en noviembre pasado, ha convencido a algunos senadores de que es urgente hacer algo para proteger los derechos de las personas ante los posibles perjuicios de la tecnología de IA.

En una audiencia celebrada el 16 de mayo por un subcomité del Comité Judicial del Senado, los asistentes escucharon una aterradora lista de posibles daños que la IA puede infligir a las personas y a la democracia. Senadores de ambos partidos expresaron su apoyo a la creación de una nueva dependencia del gobierno de Estados Unidos dedicada a regular la IA. Incluso Sam Altman, el CEO de OpenAI, respaldó la idea.

«Mi mayor temor es que nosotros, como sector, causemos al mundo un daño significativo», dijo Altman al comité. El empresario también apoyó la idea de que las compañías de IA sometan sus modelos de IA a pruebas llevadas a cabo por terceros y afirmó que una agencia reguladora de IA debería tener el poder de otorgar o revocar licencias para crear inteligencias artificiales que superen cierto umbral de capacidad.

Varias agencias federales de Estados Unidos, incluyendo la Comisión Federal de Comercio y la Administración de Alimentos y Medicamentos, han venido regulando el uso que las empresas dan a la IA. Sin embargo, el senador demócrata Peter Welch, de Vermont, afirmó que su tiempo como legislador lo ha convencido de que el Congreso no puede seguir el ritmo del cambio tecnológico. «A menos que tengamos una agencia que aborde específicamente las cuestiones relacionadas con las redes sociales y la IA, no tendremos una verdadera defensa contra sus efectos negativos, y estos efectos negativos se harán sentir», dijo. «Es de absoluta importancia que tengamos tal agencia.»

El senador Richard Blumenthal, de Connecticut, también demócrata y quien presidió la audiencia, coincidió en que puede ser necesario crear un nuevo regulador dedicado a la IA, debido a que el Congreso ha demostrado a menudo que no puede mantenerse al día con la nueva tecnología. Durante la audiencia se mencionó con frecuencia el historial irregular de los legisladores estadounidenses en cuanto a la privacidad digital y las redes sociales.

Sin embargo, Blumenthal también expresó preocupación de que una nueva agencia federal de IA pueda tener dificultades para igualar la velocidad y el poder de la industria tecnológica. «Sin el financiamiento adecuado, ustedes se saltearán con facilidad a esos reguladores», dijo Blumenthal a Altman y a quien comparecía como testigo por el sector, Christina Montgomery, directora de privacidad y confianza de IBM. Altman y Montgomery estuvieron acompañados por Gary Marcus, profesor de psicología convertido hoy en analista mediático de la IA, quien ha abogado por la creación de un organismo internacional que supervise el progreso de la IA y fomente un desarrollo seguro de esta tecnología.

Para subrayar cómo la IA puede producir resultados convincentes, Blumenthal inauguró la audiencia con una clonación de su propia voz realizada mediante IA, la cual recitó al público un texto escrito por ChatGPT.

Durante la sesión, los senadores no propusieron un nombre para la futura agencia ni detallaron sus posibles funciones. Al mismo tiempo, se discutieron respuestas regulatorias menos radicales ante los avances recientes en la IA –como exigir documentación pública sobre las restricciones de los sistemas de IA o los conjuntos de datos utilizados para crearlos, algo así como una tabla de información nutricional de la IA–, ideas que fueron presentadas hace años por investigadores como Timnit Gebru, exlíder del equipo de ética de IA de Google, quien fue despedida de la compañía después de una disputa sobre un artículo de investigación que advertía sobre las limitaciones y los peligros de los grandes modelos de lenguaje.

Tanto los legisladores como los testigos del sector instaron a que se informe explícitamente a los usuarios cuando están conversando con un modelo de lenguaje artificial y no con un humano, o cuando una IA toma decisiones importantes con consecuencias que pueden cambiar sus vidas. Por ejemplo, que sea obligatorio revelar públicamente cuando un arresto o una acusación penal son consecuencia del uso de una tecnología de reconocimiento facial.

La audiencia va en sintonía con un creciente interés del gobierno de Estados Unidos y las autoridades de la Unión Europea, e incluso de algunos expertos en tecnología, por establecer nuevas regulaciones para la IA. En marzo, una carta firmada por importantes nombres del sector y de la academia solicitó una pausa de seis meses en el desarrollo de nuevos modelos de IA, y este mes la Casa Blanca convocó a ejecutivos de OpenAI, Microsoft y otras compañías para discutir el tema, y anunció su respaldo a un concurso público de hacking para testear sistemas de IA generativa. La Unión Europea también está dando los últimos retoques a una abarcativa ley de IA.

Montgomery instó ayer al Congreso a inspirarse en esa iniciativa europea, que clasifica los sistemas de IA según los riesgos que representan para las personas o la sociedad, y establece, en consecuencia, algunas reglas o incluso prohibiciones. La ejecutiva de IBM también respaldó la idea de fomentar la autorregulación, destacando su propia posición en el consejo de ética de IA de IBM, aunque en Google y Axon ese tipo de estructuras se han visto envueltas en duras polémicas.

Aunque la audiencia tocó los posibles perjuicios de la IA –desde la desinformación electoral hasta peligros hipotéticos, que aún no existen, como una IA autoconsciente–, los sistemas generativos de IA como ChatGPT, que inspiraron la sesión, fueron los que recibieron la mayor atención. Varios senadores argumentaron que podrían aumentar la desigualdad y la monopolización de la economía. Según el senador Cory Booker, un demócrata de Nueva Jersey que ha copatrocinado regulaciones de IA en el pasado y ha apoyado una prohibición federal del reconocimiento facial, la única forma de protegerse contra esas consecuencias es que el Congreso establezca normas claras.

(Publicado originalmente en Wired.Traducción de fragmentos a cargo de Brecha.)

Artículos relacionados

Edición 2003 Suscriptores
Netanyahu, Estados Unidos y el camino al desastre israelí

«Todo lo demás puede arder»

Edición 1991 Suscriptores
La violencia se extiende en Oriente Medio

Cuestión de conveniencia

Edición 1989 Suscriptores
El Vaticano y las disputas entre los católicos estadounidenses

Carambola papal

Edición 1983 Suscriptores
El clima y las prioridades en la campaña estadounidense

Cambio climático, round 28