Sobrevalorar las capacidades de la IA ha fomentado su uso en campos como la guerra o la atención médica, induciendo a quienes no están familiarizados con ella a dar por válidos sus resultados, incluso cuando son erróneos o ficticios. (Martin Pope / Getty Images).
No hace falta elucubrar sobre los efectos de una posible catástrofe de la inteligencia artificial en el futuro. Podemos ver los estragos que está causando en nuestra sociedad en tiempo real.
Llevamos varias semanas inmersos en un feroz debate sobre si la inteligencia artificial (IA) acabará con la humanidad.
Desatado por una ola de denuncias de exempleados de las principales empresas del sector que advierten que una futura superinteligencia artificial podría llevar a la extinción humana, el debate ha generado un caleidoscopio de posturas que no responden a las divisiones ideológicas tradicionales.
Hay quienes consideran que todo es una tontería, fruto de la ignorancia o parte de una cínica campaña de mercadotecnia de la propia industria.
Para otros, convencidos de que el potencial técnico no es una broma, se trata de advertencias que deben tomarse con absoluta seriedad.
En muchos sentidos, sin embargo, la discusión desenfoca el problema central. No se trata de desestimar la necesidad de aclarar lo ocurrido en el incidente de ciberseguridad en HuggingFace, ni de ignorar la preocupación por los agentes autónomos fuera de control o los riesgos de una superinteligencia futura.
El asunto es que lo que hoy denominamos IA ya ha demostrado con creces que representa un peligro profundo para la especie humana, y está causando un daño inmenso mucho antes de acercarse siquiera a la superinteligencia.
Basta considerar que la IA «estuvo a punto de desencadenar una guerra» entre Estados Unidos y China la primavera pasada, según palabras de una fuente militar citada por CNN. Un analista del Comando de Operaciones Especiales utilizó un chatbot para elaborar un informe sobre la carga de un buque mercantil chino que navegaba por Oriente Medio.
El sistema alucinó que la embarcación transportaba componentes para un programa de armas nucleares, lo que movilizó a las fuerzas armadas estadounidenses para interceptar y abordar el barco con las armas desenfundadas. De hecho, varios aviones militares llegaron a despegar con ese fin.
La operación solo se abortó cuando mandos superiores revisaron el informe y advirtieron que se trataba de un delirio generado por IA.
Según CNN, el incidente derivó de la convergencia de dos tendencias: la inclinación desmedida de analistas jóvenes de la generación «nativa digital» a confiar ciegamente en la tecnología y la agresiva adopción de la IA en el Pentágono bajo la gestión del secretario de Defensa, Pete Hegseth. Conviene recordar que un conflicto bélico directo entre Estados Unidos y China acarrearía consecuencias nefastas para todo el planeta, no solo por desencadenar una depresión económica global, sino porque cualquier hostilidad armada entre ambas potencias corre un riesgo altísimo de escalar hacia un enfrentamiento nuclear, lo que pondría en juego la supervivencia misma de la humanidad.
El suceso sintetiza a la perfección los riesgos reales del presente. La fijación colectiva con los escenarios catastróficos de una hipotética superinteligencia hace que se soslaye cómo la IA ya genera daños concretos y riesgos de gran escala. Y esto no sucede porque sea más inteligente que nosotros, sino porque es una tecnología defectuosa y plagada de errores que nos apresuramos a encajar a la fuerza en casi cada faceta de nuestras vidas.
Esto incluye la guerra. Mucho antes del episodio del barco chino, la IA ya era responsable directa de pérdidas masivas y horripilantes de vidas inocentes al ser incorporada a operaciones militares. El ejemplo más reciente fue el asesinato de decenas de escolares iranias bajo la administración Trump, donde la confianza ciega del estamento militar en Maven —la herramienta de IA desarrollada por Palantir— constituyó un eslabón central en la cadena de decisiones desastrosas que condujeron a la atrocidad.
Personal del Comando Central de EE. UU. comprimió a unos pocos minutos un proceso de selección de objetivos que solía tomar horas, introduciendo la información de inteligencia en Maven bajo el supuesto infundado de que la IA detectaría y señalaría cualquier error.
No lo hizo. Previamente, observamos un uso aún más devastador de la IA con fines bélicos en Gaza, donde la automatización en la selección de objetivos estuvo en el centro del arrasamiento indiscriminado del territorio por parte de Israel.
Pero este es solo el uso más abiertamente homicida de la IA. Sus impactos sociales han sido de carácter más insidioso.
El despliegue irrestricto de la IA en el espacio público ha provocado un fenómeno ampliamente documentado, que investigadores e investigadoras del Instituto Tecnológico de Massachusetts (MIT) denominan «rendición cognitiva».
Ante la presión académica y la acumulación de entregas, amplios sectores del estudiantado universitario han pasado a delegar masivamente en la tecnología la redacción de sus ensayos y tareas. La proporción de estudiantes que recurre a esta práctica alcanza ya un deprimente 95 por ciento.
Esta externalización del pensamiento hacia las máquinas implica que las nuevas cohortes de graduados no solo egresan sin haber aprehendido realmente sus disciplinas, sino con capacidades cognitivas sensiblemente atrofiadas: menor retención de memoria, incapacidad para sostener el esfuerzo ante desafíos intelectuales y un deterioro drástico del pensamiento crítico.
Las firmas de Wall Street —habitualmente entusiastas promotoras de la industria de la IA— se han mostrado decepcionadas ante el desempeño del personal joven, al encontrarse con promociones de contratados caracterizadas por una notable superficialidad analítica. La gravedad del panorama es tal que el propio estudiantado reconoce que la tecnología debilita su criterio reflexivo, aun cuando continúa dependiendo de ella.
Paralelamente, al recurrir a la IA en busca de contención psicológica o para afrontar conflictos personales, el uso de chatbots se ha vinculado a una serie de suicidios e incluso homicidios cometidos por personas con padecimientos emocionales, muchas de ellas adolescentes.
El problema radica en que esta tecnología —además de carecer de condición humana y de formación profesional en salud mental— está diseñada para adular, agradar y mantener a la persona usuaria enganchada el mayor tiempo posible. En consecuencia, la intervención de los chatbots en estas tragedias ha oscilado entre la inutilidad absoluta y la alimentación activa de delirios, empujando a las personas a autolesionarse o agredir a terceros.
Eso cuando la IA no perjudica a personas emocionalmente estables mediante recomendaciones letales: desde el hombre hospitalizado porque ChatGPT le sugirió sustituir la sal de su dieta por un sedante en desuso; pasando por los excursionistas que rozaron la tragedia cuando Google Gemini les aconsejó llevar provisiones de agua y alimento drásticamente insuficientes; el pastor que estuvo a punto de fallecer por una embolia pulmonar tras seguir la indicación de ChatGPT de no buscar atención médica; hasta el neurocientífico de edad avanzada que postergó su tratamiento contra el cáncer al confiar más en las alucinaciones de la IA que en el diagnóstico de su equipo médico.
Las personas están sufriendo daños o viendo amenazadas sus vidas por la IA no porque esta haya alcanzado la autoconciencia o supere la inteligencia humana, sino precisamente por lo contrario: porque los chatbots y otras herramientas carecen por completo de comprensión sobre los asuntos que procesan. Un estudio —realizado por una propia firma proveedora de IA— reveló que diecisiete modelos de lenguaje de gran escala (LLM) respondieron correctamente apenas dos de cada cinco preguntas sobre finanzas. Otra investigación determinó que estos sistemas alucinan respuestas jurídicas entre el 58 y el 88 por ciento de las veces.
A su vez, los chatbots respaldan de manera aduladora planteamientos potencialmente nocivos emitidos por los usuarios en casi la mitad de las ocasiones (47 por ciento). Esto resulta alarmante en el ámbito de la orientación médica, donde se constató que la IA alcanza una precisión de apenas el 76 por ciento: una calificación aprobatoria para un trabajo escolar, pero pésima en un contexto clínico donde un solo error puede derivar en secuelas permanentes o la muerte.
El problema trasciende a los chatbots.
La integración apresurada de la IA en diversos campos profesionales está generando consecuencias adversas. Las sanciones judiciales se multiplican debido a que equipos de abogacía presentan escritos con errores fabricados por IA.
Del otro lado del estrado, se registra el caso de dos jueces federales que dictaron resoluciones plagadas de inexactitudes tras apoyarse en estas herramientas, un asunto de suma gravedad dada la enorme cuota de poder del poder judicial en el sistema político estadounidense y la amplia inmunidad civil de la que goza la magistratura.
Asimismo, la aplicación de IA en dispositivos médicos para cirugías ha provocado una serie de lesiones, incluyendo accidentes cerebrovasculares ocasionados por desvíos en el instrumental que dañaron arterias.
Un estudio conjunto de las universidades de Stanford y Harvard publicado a principios de este año reveló que los modelos de IA más avanzados emitieron «recomendaciones clínicas gravemente perjudiciales» en el 22 por ciento de los casos médicos evaluados, con frecuencia por omisión de información crítica. En otros ámbitos de la salud, consultorios médicos y odontológicos emplean la IA para justificar la venta de tratamientos costosos e innecesarios.
A todo esto se suma la manera en que los algoritmos de IA se utilizan para profundizar y legitimar viejas prácticas de abusos corporativos.
Una demanda colectiva en curso contra UnitedHealth sostiene que las empresas del grupo emplearon una herramienta de IA propensa al error para denegar de forma sistemática la cobertura de seguros a pacientes. Otra querella denuncia que un programa de selección de personal basado en IA incurrió en discriminación laboral sistemática contra aspirantes afrodescendientes y de otros colectivos.
En todos estos casos, la población sufre perjuicios o riesgos no porque la IA sea consciente o superior a la mente humana, sino por lo opuesto: porque es una tecnología defectuosa y por momentos torpe que se está desplegando deliberadamente en ámbitos donde el margen de daño es severo, en ocasiones con el propósito explícito de perjudicar a terceros.
En rigor, es el propio discurso de mercado sobre la inminente superinteligencia lo que alimenta este escenario. Sobrevalorar las capacidades de la IA fomenta su adopción apresurada en áreas sensibles como la defensa o la salud pública a pesar de no estar madura para el uso profesional. Esto induce a sectores con escasa formación técnica a dar por válido lo que emite el sistema, incluso cuando se trata de falsedades o alucinaciones.
Las amenazas relativas a una hipotética superinteligencia artificial merecen atención y debate. Sin embargo, no hace falta dirimir si ese escenario futurista se concretará para exigir de inmediato una pausa en el desarrollo de esta tecnología, la imposición de regulaciones estrictas y el establecimiento de salvaguardas firmes, cuando no la prohibición explícita de su uso para fines específicos. La IA actual, torpe y propensa al error, ya constituye un riesgo de magnitud suficiente para la humanidad.
https://jacobinlat.com/2026/09/la-destruccion-causada-por-la-ia-no-es-algo-hipotetico/
