El escenario no es completamente nuevo. En 1991, se estrenó en cines una superproducción de Hollywood que pinta un panorama absolutamente sombrío en su secuencia inicial: «Terminator 2». La comparación tampoco es nueva. La película comienza en un futuro lejano, oscuro y devastado por la guerra. Robots asesinos y máquinas voladoras persiguen a las últimas personas que aún luchan por su supervivencia.
Estas máquinas están controladas por una inteligencia artificial militar fuera de control llamada «Skynet». El futuro lejano en el que transcurre esta visión distópica del futuro es el año 2029.
Una cada vez más potente y futura IA, sería capaz de mejorar su propio código podría acelerar su desarrollo hasta dificultar la supervisión. Es un escenario advertido por investigadores, con acciones contrarias a las intenciones humanas.
El llamado problema de alineación consiste en que una IA persiga un objetivo mediante acciones perjudiciales. Incluso podría resistirse a ser apagada porque eso impediría completar su tarea, sin necesidad de atribuirle malicia.
Según el texto públicado por DW titulado: Expertos en IA advierten sobre extinción de la humanidad, ya se han comunicado casos de sistemas que, por encargo de usuarios humanos, organizaron y ejecutaron pasos de ataques sin más orientación.
El artículo recoge intentos de usuarios de obtener ayuda de Claude para ese fin, que Anthropic habría bloqueado. No afirma que se hayan desarrollado armas biológicas; no obstante en el campo de la desinformación y manipulación democrática, la IA puede multiplicar la escala de campañas destinadas a engañar e influir sobre la población.
Se señalan como consecuencias sociales relevantes, la vigilancia masiva y pérdida de empleos, aunque no cuantifican su alcance.
¿Podría destruir a la humanidad en una década? El artículo no demuestra que vaya a ocurrir ni presenta un consenso científico al respecto. Recoge advertencias y estimaciones personales: atribuye a Evan Hubinger una probabilidad superior al 10 % durante la próxima década. Otros expertos, como Yann LeCun, rechazan esos escenarios y subrayan la dependencia de la IA de infraestructura física controlada por humanos.
Advertencia central
El reclamo principal es reforzar la regulación externa y resolver los problemas de seguridad antes de desplegar sistemas más poderosos. La omisión señalada es priorizar llegar primero en la carrera tecnológica sin contar con garantías suficientes de control. Más allá del debate sobre la extinción, el texto destaca daños concretos que no requieren una superinteligencia para producirse.
