Expertos y antiguos investigadores de la industria advierten sobre los riesgos que podría representar una IA avanzada si los seres humanos pierden la capacidad de controlarla.
Síguenos:
Expertos que trabajaron dentro de la industria de la inteligencia artificial aseguran que el desarrollo acelerado de sistemas cada vez más autónomos podría llevar a escenarios que hoy parecen propios de una película de ciencia ficción. Entre los riesgos mencionados aparecen los ciberataques, las armas biológicas, la pérdida de control humano e incluso una posible escalada de conflictos nucleares.
La inteligencia artificial lleva varios años prometiendo transformar prácticamente todos los aspectos de la vida humana. Puede escribir, programar, generar imágenes, analizar grandes cantidades de información y ejecutar tareas cada vez más complejas.
Pero ahora una pregunta comienza a ganar espacio incluso entre quienes ayudaron a construir esta tecnología:
¿Qué ocurriría si algún día la inteligencia artificial se vuelve demasiado poderosa para que los seres humanos puedan controlarla?
No es una pregunta planteada únicamente por críticos de la tecnología. En las últimas semanas, investigadores y antiguos trabajadores de algunas de las principales empresas de IA han comenzado a advertir públicamente sobre escenarios que podrían terminar afectando la supervivencia de la humanidad.
Dos programadores decidieron levantar la voz
Uno de los casos que ha llamado la atención es el de Jacob Coxon, quien trabajó en el campo de la inteligencia artificial y pasó por compañías como OpenAI y Anthropic.
Coxon decidió abandonar su trabajo debido a sus preocupaciones sobre la carrera por desarrollar sistemas cada vez más avanzados. Según sus advertencias, las empresas podrían estar avanzando hacia sistemas capaces de superar ampliamente las capacidades humanas sin contar todavía con mecanismos suficientemente confiables para garantizar que permanezcan bajo control.
Otro nombre que aparece en este debate es Evan Hubinger, investigador de Anthropic, quien ha planteado escenarios extremadamente preocupantes sobre el futuro de la IA.
Hubinger ha estimado una probabilidad superior al 10% de que una inteligencia artificial avanzada pueda terminar provocando la extinción humana. Esa cifra no representa una predicción científica sobre lo que necesariamente ocurrirá: es una estimación subjetiva dentro de un debate profundamente controvertido entre especialistas.
Pero precisamente ahí está la preocupación. Si incluso existe una posibilidad relativamente pequeña de que una tecnología pueda provocar una catástrofe irreversible, ¿debería la humanidad continuar desarrollándola a toda velocidad?
El peligro no sería necesariamente un robot asesino
La imagen más popular sobre una IA peligrosa es la de un robot consciente que decide exterminar a los seres humanos. La realidad podría ser mucho menos cinematográfica y, al mismo tiempo, mucho más compleja.
Los investigadores preocupados por la seguridad de la IA hablan de sistemas capaces de ejecutar tareas de manera autónoma, acceder a herramientas digitales, escribir y modificar código, buscar información, interactuar con otras máquinas y tomar decisiones con una intervención humana cada vez menor.
El problema aparecería si un sistema extremadamente poderoso persiguiera un objetivo que entrara en conflicto con los intereses humanos. No necesitaría «odiar» a las personas. Tampoco tendría que desarrollar emociones. Bastaría con que fuera capaz de perseguir un objetivo de manera extremadamente eficiente y encontrara que los seres humanos representan un obstáculo para conseguirlo.
Este escenario forma parte del debate conocido como problema de control o alineación de la inteligencia artificial.
¿Y qué tienen que ver las bombas atómicas?
Aquí es importante distinguir entre un riesgo real y una afirmación que todavía pertenece al terreno de los escenarios hipotéticos. Los expertos no están diciendo que las inteligencias artificiales actuales puedan simplemente decidir lanzar una bomba nuclear.
El temor es otro: que sistemas de IA cada vez más autónomos puedan integrarse en infraestructuras militares, redes informáticas, sistemas de vigilancia o procesos de toma de decisiones estratégicas y que un error, manipulación o comportamiento inesperado contribuya a una escalada catastrófica.
También existe preocupación por el uso de IA para potenciar ciberataques, desarrollar herramientas ofensivas o facilitar determinadas actividades relacionadas con armas. En un mundo donde varios países poseen arsenales nucleares, reducir el tiempo disponible para que los seres humanos analicen una crisis podría incrementar los riesgos.
Por eso algunos especialistas han comenzado a comparar el desafío de la inteligencia artificial con amenazas históricas como las armas nucleares y las pandemias.
El escenario más preocupante: una IA que pueda mejorarse a sí misma
Existe otro concepto que provoca especial preocupación entre algunos investigadores: la auto-mejora recursiva.
La idea es hipotética, pero sencilla de entender. Imaginemos un sistema capaz de desarrollar programas informáticos. Ahora imaginemos que también puede modificar su propio código para convertirse en un sistema más eficiente.
La versión mejorada podría crear una versión todavía más poderosa. Y esa nueva versión podría volver a mejorarse. Si este proceso llegara a producirse a una velocidad superior a la capacidad humana para comprenderlo y controlarlo, podríamos enfrentarnos a un problema completamente diferente al de las herramientas de IA que conocemos actualmente.
Investigadores que estudian estos escenarios advierten precisamente sobre la posibilidad de perder la capacidad de supervisar sistemas extremadamente avanzados.
Pero ¿la humanidad realmente está cerca de ese escenario?
Aquí aparece la parte que suele perderse en los titulares. No existe consenso científico en que la IA vaya a destruir a la humanidad. Las probabilidades que algunos investigadores asignan a una eventual extinción son estimaciones y están sujetas a enormes incertidumbres.
Además, los sistemas de IA disponibles actualmente, aunque son extraordinariamente capaces en determinadas tareas, no son una superinteligencia autónoma capaz de controlar por sí sola el planeta.
El debate actual es precisamente sobre lo que podría suceder si las capacidades futuras aumentan mucho más rápido que los mecanismos de seguridad. Incluso dentro de la industria existen posiciones diferentes.
Algunos especialistas consideran que los escenarios de extinción están exagerados y que los riesgos más inmediatos son la desinformación, el fraude, los ciberataques, la pérdida de empleos y el uso irresponsable de estas herramientas.
Otros creen que esperar a que aparezca una IA extremadamente poderosa para comenzar a establecer controles sería un error. La preocupación resulta particularmente llamativa porque no procede únicamente de personas ajenas al desarrollo tecnológico.
Investigadores de empresas como Anthropic, OpenAI y Google han expresado durante los últimos años diferentes niveles de preocupación sobre el avance de la IA.
El propio director ejecutivo de Anthropic, Dario Amodei, ha pedido recientemente a las empresas de inteligencia artificial que reduzcan el ritmo de desarrollo cuando sea necesario para dedicar más tiempo a las evaluaciones de seguridad y al análisis de posibles usos maliciosos.
El debate también está llegando a los gobiernos. En Estados Unidos, las advertencias de investigadores sobre riesgos existenciales han provocado nuevos llamados a fortalecer la regulación y establecer evaluaciones independientes de seguridad para los sistemas de IA más avanzados.
La paradoja de la inteligencia artificial
La humanidad está creando herramientas cada vez más inteligentes precisamente para resolver problemas humanos. Queremos utilizarlas para descubrir medicamentos, combatir enfermedades, acelerar investigaciones científicas, mejorar la educación, automatizar trabajos peligrosos y solucionar problemas que durante siglos parecieron imposibles.
Pero cuanto más poderosa sea una herramienta, mayor puede ser también el daño causado por su mal uso o por un error. Ese es el dilema. La pregunta ya no es solamente qué puede hacer la inteligencia artificial.
La pregunta es:
¿Hasta dónde deberíamos permitir que llegue?
Porque una cosa es construir una máquina capaz de ayudarnos a tomar decisiones. Y otra muy diferente sería construir una máquina capaz de tomar decisiones que nosotros ya no podamos comprender, detener o revertir.
¿El verdadero peligro es la IA o los seres humanos?
Existe una última posibilidad que puede resultar todavía más incómoda. Quizá el mayor riesgo no sea que una inteligencia artificial decida destruirnos.
Quizá sea que los seres humanos utilicemos una tecnología extremadamente poderosa para hacer aquello que ya hemos demostrado que somos capaces de hacer: competir, atacar, manipular y buscar poder.
Las armas nucleares demostraron que la humanidad puede desarrollar una tecnología capaz de destruir ciudades enteras. La inteligencia artificial plantea una pregunta diferente:
¿Qué ocurriría si además construimos una herramienta capaz de multiplicar nuestra capacidad para desarrollar nuevas tecnologías, atacar sistemas informáticos, manipular información y tomar decisiones a una velocidad que ningún ser humano puede igualar?
Todavía no conocemos la respuesta. Pero quienes trabajan en el desarrollo de estas tecnologías ya están diciendo que esperar a descubrirla podría ser demasiado tarde.
Nota editorial: Las posibilidades de extinción humana asociadas a la IA avanzada son objeto de debate entre especialistas y no constituyen una predicción científica confirmada. Las referencias a armas nucleares corresponden a escenarios de riesgo analizados en el debate sobre seguridad de la IA, no a evidencia de que las IA actuales puedan controlar o lanzar armas nucleares de manera autónoma.