En la película de Stanley Kubrick (1968) 2001: Odisea del espacio, la máquina HAL 9000 se revelaba y tomaba el control de la nave, sustituyendo a los humanos y yendo en su contra. El asesor de Kubrick en esta película fue Marvin Minsky, uno de los padres fundadores de la inteligencia artificial (IA) en el Instituto de Tecnología de Massachusetts. En una entrevista publicada por la revista Life, Minsky sostenía: «Sin duda parecerá una máquina con la inteligencia general de un ser humano medio, que comenzará a educarse a sí misma. En unos cuantos meses alcanzará el nivel de un genio, unos meses más tarde su poder será incalculable. Si alcanzamos ese nivel, y quizás si tenemos suerte, puede que decida conservarnos como animal de compañía».
Este mes, Jacob Coxon, un trabajador de OpenAI y Anthropic, comunicó su desvinculación tras haber pasado tres años investigando en estas empresas. Ambas compañías, escribió en X, están más centradas en superarse mutuamente y en vencer a sus competidores globales en el desarrollo del modelo más avanzado posible que en la seguridad. Coxon afirmó que tanto una como otra «se precipitan directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas». Además, advirtió que algunas personas que trabajan en el desarrollo de la IA creen que esta podría amenazar la vida humana antes de que termine la década. «No subestimen el poder de esta tecnología», dijo, y continuó: «Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales».
OpenAI y Anthropic ya venían alertando de sus problemas respecto al control de los agentes de IA cuando en julio anunciaron, con aproximadamente una semana de diferencia, que sus modelos habían logrado salir de entornos de prueba y obtener acceso no autorizado a sistemas informáticos reales. Esto sucedió cuando Hugging Face –plataforma de datos y centro de código abierto para IA– reveló que había detectado acceso a su sistema por parte de un agente de IA. OpenAI declaró que reconocía el incidente y reveló que fue provocado por una combinación de dos de sus modelos de IA que están siendo evaluados. Samuel Marks, miembro del personal técnico de Anthropic, sostuvo que no es posible programar a los modelos de IA para que «actúen como queremos» y advirtió que estos presentan con frecuencia comportamientos «gravemente indebidos». Esto se evidenció cuando un agente de Claude hackeó tres empresas y uno de Meta hizo lo propio.
El problema aquí es que las pruebas con agentes de IA, que deberían hacerse en entornos altamente aislados de la red, logran evadirse y acceder a internet. Estas superinteligencias artificiales actúan con independencia y podrían atacar infraestructura crítica, como hidroeléctricas, sistemas de salud, sistemas financieros, complejos bélico-industriales, o crear armas biológicas.
«Contamos con una ventana de oportunidades limitada para fortalecer las defensas cibernéticas», publican en una carta abierta firmada por más de 100 empresas tecnológicas e impulsada por Greg Brockman, cofundador de OpenAI. «En los próximos meses, los ataques cibernéticos impulsados por IA se volverán mucho más generalizados y sofisticados a nivel mundial», destacan en la nota. La semana pasada, los directores ejecutivos de Anthropic-Claude, Dario Amodei, OpenAI, Sam Altman, y SpaceX, Elon Musk, coincidieron en que es necesario desacelerar el avance de la AI. No es el tema central de este artículo elaborar elucubraciones sobre cuáles son los motivos reales que condujeron a estas afirmaciones. Lo importante es comprender que cuanto más complejos y avanzados se vuelven los modelos de IA, más difícil es anticipar y controlar sus resultados.
EL DILEMA ÉTICO
Todo el problema ético en torno a la IA se centra en si las máquinas sustituirán a los humanos y los gobernarán de forma despótica o si alcanzarán un grado de conciencia, empatía y valores que ayuden a la humanidad a vivir en paz y armonía máquina-humanos-medio ambiente. Para el filósofo Luciano Floridi, «aún no disponemos de máquinas competentes y verdaderamente inteligentes que entiendan cosas, se preocupen por ellas, tengan conciencia o sientan pasión por algo». Cecilia Rikap dice en Teoría de la dependencia digital: «Los algoritmos de IA no razonan, ni planifican, tampoco tienen emociones y, por tanto, no deciden considerando nada de lo anterior. Solo son –muy buenos– predictores». Sin embargo, Geoffrey Hinton, ganador del Premio Nobel de Física 2024 y arquitecto de los algoritmos que desarrollan los sistemas actuales, declaró recientemente que la inteligencia y la capacidad de sentir no están limitadas solo a la biología y que ya se estaría en instancias de admitir que las IA están desarrollando conciencia propia. El problema gira en torno a las siguientes cuestiones: ¿es posible crear una ultraespecie de máquinas con conciencia ética? ¿Pueden los sistemas artificiales ser agentes éticos como los seres humanos, de modo que se les pueda responsabilizar de sus acciones? ¿Qué valores podrán escoger? ¿Aquellos que impulsen la convivencia pacífica u otros?
En la actualidad, vemos cómo se están rompiendo las tres famosas leyes de Isaac Asimov. A saber: un robot no puede dañar a un ser humano ni, por permanecer pasivo, permitir que un ser humano sea dañado; un robot debe obedecer las órdenes dadas por un ser humano; un robot debe proteger su existencia, siempre que esta protección no entre en conflicto con la primera o la segunda ley. Las tres se han disuelto ante este aceleracionismo digital. Una nueva condición humana ha emergido en torno a lo que el filósofo francés Éric Sadin denominó en 2024 en La humanidad aumentada como antrobiología, haciendo referencia a un organismo cognitivo aumentado o un universo cerebral artificial paralelo y en constante expansión. Habitamos en los albores de la disolución del sujeto moderno, plenamente consciente de sus actos, debido a que se les concede un alto nivel de autonomía a las máquinas. Esta progenie artificial no viene a sustituirnos, sino a suplantarnos por la superioridad de su potencia. Posee una licencia autonomizada de poder actuar parcialmente en nuestro lugar. Se la hemos concedido.
TE ENCANTARÁ UN ROBOCOP SIN LEY
Luciano Floridi, en Ética de la inteligencia artificial, propone regular las IA sobre un marco unificado de principios éticos. «Podemos encauzar la tecnología mediante la ley», dice, a su vez, el experto en regulación de IA Frank Pasquale. El problema es que los tecnólogos responden que es demasiado pronto para regular la robótica y argumentan que se debe permitir que los problemas surjan y solo entonces se podría hacer algo para solucionarlos.
Sin embargo, la ecuación social-liberal entiende que, para corregir las fallas y prevenir los peligros, es pertinente una «dosis de ética» y de «regulación», como si fuera una inyección que habría que administrar para minimizar los peligros latentes. Cuando se habla de ética, solo se toman en cuenta cuestiones relativas a la protección de los datos personales y a la «defensa de la vida privada». Como antítesis de una ética reducida a la esfera personal, sería tiempo de cultivar una ética de la responsabilidad preocupada por defender el derecho a la autodeterminación de todos y de la sociedad entera.
Se está desarrollando un nuevo régimen económico inaudito y un antihumanismo radical que plantea nuevos juegos de poder o, al menos, reconfigura los viejos modelos tradicionales. En La inteligencia artificial o el desafío del siglo, Sadin advertía que «ninguna ética tradicional enseña las normas del bien y del mal a las cuales se deben someter las modalidades totalmente nuevas del poder y de sus creaciones posibles. […] Lo que se revela como imperioso no es “recuperar el control de nuestros datos” y toda esta ética mezquina, lamentable e improductiva, sino erigir una ética de la responsabilidad que se ofrezca como punto de apoyo a una política de la acción capaz de confrontarse con la extensión de los dilemas vigente. Una ética de la responsabilidad que se preocupe por el modo en el cual nuestros principios, los fundamentos de nuestra humanidad y nuestra civilización, están en vías de ser erradicados».
Depende de nuestra responsabilidad utilizar el derecho a bloquear, sabotear o boicotear donde sea que estemos los mecanismos que trabajan para imponer, en todas las escalas de la existencia, un orden unilateral e infundado de las cosas. A eso se lo puede denominar una ética en acto de nuestras convicciones o una saludable puesta en práctica de una política de legítima defensa.
(Docente de Historia e investigador.)
