La amenaza de la inteligencia artificial

La amenaza de la inteligencia artificial

La amenaza de la inteligencia artificial

 

Por: Ing. Abdón Sánchez Castillo -Master of Business Administration (MBA) Universidad de los Andes.

Las recientes noticias relacionadas con la renuncia de Jacob Coxon, investigador de Anthropic y anteriormente vinculado a OpenAI, nos han puesto nuevamente a pensar en un tema que hasta hace muy pocos años parecía reservado para las películas de ciencia ficción.

Es inevitable recordar Terminator, de James Cameron; Matrix, de las hermanas Wachowski; o Yo, robot, dirigida por Alex Proyas e inspirada en el universo literario de Isaac Asimov.

Historias que hace unas décadas parecían producto de una imaginación desbordada hoy generan una pregunta mucho más incómoda:

 

¿Hasta qué punto podría convertirse la inteligencia artificial en una amenaza real para la humanidad?

La pregunta es difícil. Y la respuesta lo es todavía más. Especialmente porque estamos hablando de tecnologías extraordinariamente complejas, cuyo funcionamiento profundo está fuera del conocimiento de la inmensa mayoría de quienes las utilizamos.

Una cosa es haber aprendido a conversar con ChatGPT, Claude, Gemini o DeepSeek. Otra muy diferente es comprender cómo se entrenan estos modelos, cómo desarrollan determinadas capacidades y, sobre todo, qué podría suceder cuando alcancen niveles de autonomía y razonamiento muy superiores a los actuales.

Quizá quienes están en mejor posición para responder estas preguntas sean precisamente las personas que trabajan desarrollando estos sistemas. Y algunas de ellas están preocupadas.

 

Una diferencia fundamental

Los actuales modelos de inteligencia artificial se apoyan en redes neuronales artificiales que, aunque fueron inspiradas remotamente en algunos principios del funcionamiento del cerebro, son solamente una aproximación matemática. El cerebro humano continúa siendo infinitamente más complejo de lo que hoy comprendemos.

 

Pero las máquinas tienen una ventaja extraordinaria.

Los seres humanos transmitimos nuestros conocimientos mediante el lenguaje, la escritura, las imágenes y la enseñanza. Aprender requiere tiempo. Además, cada cerebro es independiente.

Los miles de millones de seres humanos que habitamos el planeta no podemos conectar directamente nuestras mentes para intercambiar instantáneamente todo lo que sabemos.

Los computadores sí pueden intercambiar enormes cantidades de información a velocidades extraordinarias. Un sistema puede copiar información, comunicarse con otros sistemas y ejecutar millones de operaciones en tiempos imposibles para nosotros.

 

Eso cambia por completo la escala del problema.

No significa que actualmente exista una gran “mente artificial colectiva” conectada secretamente a internet. Eso sería ciencia ficción.

Pero técnicamente sí es posible construir sistemas compuestos por numerosos agentes de inteligencia artificial que trabajen simultáneamente, compartan información y ejecuten tareas de manera coordinada.

Y aquí comienza una de las preocupaciones.

 

La carrera por llegar primero

Jacob Coxon renunció recientemente a Anthropic después de trabajar durante años en el entrenamiento de modelos avanzados, primero en OpenAI y posteriormente en Anthropic.

Su argumento es inquietante: las principales compañías tecnológicas están involucradas en una carrera por desarrollar sistemas cada vez más inteligentes y eventualmente una inteligencia capaz de superar ampliamente las capacidades humanas.

Coxon sostiene que muchos de quienes trabajan directamente en estas tecnologías consideran seriamente la posibilidad de consecuencias catastróficas si esos sistemas no pueden mantenerse bajo control. Incluso ha afirmado que los próximos años podrían ser decisivos para determinar si logramos desarrollar estas tecnologías de manera segura.

 

Por supuesto, estas advertencias no representan un consenso científico.

Hay investigadores que consideran exagerados estos escenarios y argumentan que todavía estamos muy lejos de desarrollar una verdadera superinteligencia autónoma.

Pero hay algo difícil de ignorar: quienes expresan estas preocupaciones no siempre son personas externas a la industria. Algunos han trabajado directamente en los laboratorios donde se desarrollan los modelos más avanzados del mundo. Por eso vale la pena escucharlos.

 

¿Puede una inteligencia artificial escapar?

Aquí también es necesario separar la ciencia ficción de los riesgos técnicamente plausibles.

No necesariamente debemos imaginar una inteligencia artificial que un día “despierte”, decida rebelarse y escape de un laboratorio convertida mágicamente en un virus informático. El riesgo puede ser mucho más gradual.

Un sistema suficientemente autónomo podría recibir acceso a computadores, redes, herramientas de programación, cuentas, bases de datos o infraestructura tecnológica. Si además tuviera grandes capacidades para encontrar vulnerabilidades informáticas, programar software y ejecutar acciones sin supervisión constante, el problema podría adquirir dimensiones difíciles de controlar.

Una de las preocupaciones planteadas recientemente por investigadores del sector es precisamente el desarrollo de agentes autónomos capaces de ejecutar cadenas completas de acciones en internet.

Coxon ha hablado de escenarios en los que múltiples agentes pudieran actuar coordinadamente sobre la red. Son hipótesis muy discutidas y no predicciones científicamente demostradas, pero muestran hasta dónde llegan actualmente las preocupaciones dentro de una parte de la propia industria.

Incluso ha contado que algunos trabajadores del sector están reconsiderando decisiones personales y, según su relato, algunos han pensado en adquirir terrenos alejados de las grandes ciudades como preparación ante posibles escenarios de inestabilidad.

Debe aclararse que se trata de testimonios anecdóticos y no de una conducta generalizada entre los investigadores de inteligencia artificial.

Pero el solo hecho de que esta conversación exista dentro de los laboratorios que construyen estas tecnologías resulta inquietante.

 

Una civilización extremadamente dependiente

Hay otra realidad que pocas veces tenemos en cuenta. Nuestra civilización tecnológica es extraordinariamente poderosa, pero al mismo tiempo es profundamente dependiente.

La electricidad, los bancos, las telecomunicaciones, los aeropuertos, los hospitales, los sistemas de distribución de alimentos, los mercados financieros, los gobiernos y buena parte de nuestra vida cotidiana dependen de redes informáticas. Basta una falla relativamente pequeña para recordar nuestra vulnerabilidad.

Ahora imaginemos una interrupción importante y simultánea de varios de esos sistemas. El problema de una inteligencia artificial hostil o simplemente fuera de control no sería necesariamente que aparecieran robots persiguiendo personas por las calles al estilo de Terminator.

Podría ser mucho menos cinematográfico y, paradójicamente, mucho más peligroso:

interrupciones eléctricas, ataques informáticos, manipulación de información, afectación del sistema financiero, bloqueos de comunicaciones o daños a infraestructuras críticas.

En un escenario extremo, una de las respuestas podría consistir precisamente en desconectar determinados sistemas.

 

Y entonces aparecería una extraña paradoja.

Durante décadas hemos convertido todo lo analógico en digital buscando eficiencia. En una emergencia tecnológica de grandes proporciones, aquello que todavía pudiera funcionar de manera independiente de internet recuperaría repentinamente un enorme valor.

Los países y comunidades altamente digitalizados podrían incluso ser más vulnerables que aquellos cuya vida cotidiana todavía conserva mecanismos manuales o independientes de grandes redes informáticas.

 

Estados Unidos, China y la carrera por la inteligencia artificial

Pero existe un problema adicional. Nadie quiere detenerse mientras sospeche que el competidor continuará avanzando. Las empresas estadounidenses compiten entre ellas, pero Estados Unidos también compite tecnológicamente con China. Y China tiene empresas capaces de sorprender al mercado occidental.

 

DeepSeek es probablemente el ejemplo más conocido.

Fundada por Liang Wenfeng y vinculada originalmente al fondo cuantitativo High-Flyer, la compañía demostró que era posible desarrollar modelos altamente competitivos utilizando estrategias de entrenamiento considerablemente más eficientes.

Cuando DeepSeek presentó sus avances, una cifra llamó especialmente la atención: la empresa reportó aproximadamente US$5,6 millones en costos de cómputo para el preentrenamiento de DeepSeek-V3.

Es importante aclarar algo que con frecuencia se ha interpretado equivocadamente: esos US$5,6 millones no representan el costo total de desarrollar DeepSeek ni el costo completo de R1. Se refieren principalmente al cómputo utilizado durante una fase específica de entrenamiento de V3.

Aun así, el resultado sorprendió a la industria porque mostró que podían conseguirse modelos muy competitivos con una utilización mucho más eficiente de la infraestructura disponible.

Y esto ocurrió precisamente mientras Estados Unidos restringía la exportación hacia China de algunos de los chips más avanzados utilizados para inteligencia artificial.

Las principales restricciones comenzaron a implementarse en octubre de 2022 y posteriormente fueron ampliadas. Paradójicamente, esas limitaciones pudieron incentivar a investigadores chinos a buscar técnicas que permitieran obtener mejores resultados utilizando menos capacidad de cómputo.

La historia demuestra nuevamente algo que conocemos bastante bien:

 

Las restricciones tecnológicas no siempre detienen la innovación; algunas veces obligan a acelerarla.

 

Un intento de colocar límites

El 29 de septiembre de 2026, el presidente Donald Trump reunió en la Casa Blanca a buena parte de los principales líderes de la industria tecnológica.

Estuvieron representadas compañías como Meta, Google, Nvidia, Anthropic, OpenAI y xAI, entre otras.

Después de la reunión, varias compañías suscribieron un acuerdo voluntario orientado a establecer mecanismos adicionales de seguridad, controles internos, auditorías y supervisión independiente para los sistemas avanzados de inteligencia artificial.

 

Es un paso importante.

Pero sigue siendo precisamente eso: un acuerdo voluntario. Y existe además un problema geopolítico.

Aunque las principales compañías estadounidenses decidan establecer límites, cualquier estrategia realmente efectiva frente a una tecnología de alcance mundial tendrá que involucrar tarde o temprano a China y a otros países que desarrollen sistemas avanzados.

De nada serviría que un grupo de empresas reduzca la velocidad mientras sus competidores consideran que detenerse representa perder una carrera económica, militar o tecnológica.

 

Ese quizá sea uno de los mayores peligros de todos.

Cada participante puede considerar racional seguir avanzando porque teme que otro llegue primero. Pero si todos piensan de esa manera, colectivamente podrían terminar asumiendo riesgos que ninguno aceptaría individualmente.

 

¿Debemos tener miedo?

Personalmente creo que existe un riesgo real. No significa que mañana vaya a aparecer Skynet, que las máquinas vayan a declarar la guerra a los humanos o que debamos comenzar a construir refugios subterráneos. El problema es otro.

Estamos desarrollando una tecnología cuyas capacidades están creciendo a una velocidad extraordinaria, mientras nuestros sistemas políticos, jurídicos y sociales avanzan muchísimo más despacio.

Y, al mismo tiempo, existe una gigantesca recompensa económica y geopolítica para quien llegue primero.

 

Esa combinación merece prudencia.

Probablemente el camino tampoco sea detener completamente el desarrollo de la inteligencia artificial. Sería casi imposible conseguirlo y, además, estaríamos renunciando a una tecnología capaz de producir enormes beneficios para la medicina, la educación, la ciencia, la ingeniería, la productividad y posiblemente para la solución de problemas que hoy parecen imposibles.

 

La verdadera discusión debería ser otra:

¿cómo continuar avanzando sin perder el control de aquello que estamos creando?

Necesitamos sistemas de supervisión, protocolos internacionales, pruebas independientes de seguridad, mecanismos eficaces para detener sistemas peligrosos y, especialmente, acuerdos entre las grandes potencias tecnológicas. Esperemos que quienes hoy lideran esta revolución encuentren formas de hacerlo.

 

El futuro siempre ha traído riesgos y oportunidades.

La inteligencia artificial probablemente será una de las mayores oportunidades creadas por nuestra civilización, pero también podría convertirse en uno de sus mayores desafíos.

Quizá terminemos viviendo en un mundo parecido al imaginado hace más de ochenta años por Isaac Asimov, donde robots e inteligencias artificiales realizan buena parte de nuestras tareas y trabajan a nuestro lado.

Asimov comprendió algo antes que muchos: el problema no era simplemente construir máquinas inteligentes. El verdadero desafío era establecer las reglas bajo las cuales esas máquinas debían convivir con nosotros.

Hoy esa pregunta ha dejado de pertenecer exclusivamente a la ciencia ficción. Y por primera vez en nuestra historia, tendremos que encontrar la respuesta.

Compartir