Olivia Terragni : 9 noviembre 2025 18:36
Imagina una ciudad futurista dividida en dos: por un lado, relucientes torres de innovación; por el otro, el caos y las sombras de la pérdida de control. Esta no es una visión distópica, sino el panorama actual de la inteligencia artificial (IA). Por un lado, el tecno-optimismo apunta a un futuro de abundancia tecnológica con inversiones multimillonarias; por otro, la alarma de los expertos que sostienen que controlar una IA superinteligente podría ser imposible . Entre estos dos extremos, surge cierta crítica a la incoherente narrativa antitecnológica. Pero para comprender lo que está sucediendo, necesitamos observar con mayor detenimiento, quizás equipados con alguna capacidad excepcional otorgada por la sabiduría humana, como el pensamiento retrospectivo y prospectivo, para determinar si la IA será nuestra salvación o nuestra limitación.
Existe una tensión entre los constructores del futuro y los evaluadores de riesgos: ejemplificada por la confianza de Sam Altman, las advertencias de Roman Yampolskiy y la crítica de Warmke a los argumentos incoherentes contra las nuevas tecnologías. El debate sobre la IA se polariza entre dos figuras: el constructor, impulsado por un optimismo desbordante, y el evaluador de riesgos, que percibe amenazas existenciales. ¿Pero qué ocurre si ambos se equivocan? ¿Y si la mayor amenaza para la IA reside en que no estamos construyendo lo suficiente?
EN BREVE
Sam Altman ( X.com, 6 de noviembre de 2025 ) ha esbozado una visión ambiciosa que parece predestinada al futuro. OpenAI prevé ingresos anuales superiores a los 20.000 millones de dólares este año, con proyecciones que alcanzarán los cientos de miles de millones para 2030, respaldadas por un colosal plan de inversión de 1,4 billones de dólares durante los próximos ocho años. ¿El objetivo? Construir la infraestructura para una economía impulsada por la IA, desde dispositivos de consumo y robótica hasta descubrimientos científicos revolucionarios como la cura para enfermedades mortales. Altman rechaza categóricamente las garantías gubernamentales para los centros de datos, promoviendo un mercado que premia el éxito o castiga severamente el fracaso. En cambio, propone que los gobiernos desarrollen una reserva estratégica de potencia informática, una idea innovadora que podría democratizar el acceso a la IA y garantizar el beneficio público.
Su optimismo es contagioso: la IA podría transformar la investigación, con estudios que reportan un aumento del 40 % en la productividad de los investigadores (TSE, 2025), o incluso vencer enfermedades mortales, un sueño que impulsa la misión de OpenAI. Pero el pensamiento inverso, esa superpotencia de la sabiduría humana que tanto me gusta explorar, nos lleva a ir más allá: ¿y si este optimismo conduce a una dependencia excesiva de la tecnología ? Una infraestructura sobredimensionada podría colapsar bajo el peso insostenible de los costos o convertirse en un blanco fácil para crisis energéticas o ciberataques.
La apuesta de Altman es audaz, pero requiere un equilibrio que el mercado por sí solo, por eficiente que sea, quizá no pueda garantizar. Si tuviéramos que definir a Sam Altman como «el constructor de utopías ingeniosas, con la convicción propia de un constructor», sería perfecto. Altman encarna esta figura: nosotros construimos, y el mercado juzgará. OpenAI debería triunfar o fracasar por sus propios méritos, sin que nadie «elija a los ganadores». Su confianza es inquebrantable: «El mundo necesitará mucha más potencia informática». Pero ¿basta con esta convicción absoluta? Pensar a la inversa nos invita a preguntarnos: ¿qué ocurre si el mercado, por sí solo, no reconoce los riesgos a largo plazo? ¿O qué ocurre si la magnitud misma de la inversión se convierte en un obstáculo, frenando la innovación en lugar de acelerarla? La respuesta de Altman parece centrarse exclusivamente en la visión, pero la historia nos enseña que incluso los constructores más audaces necesitan una base sólida.
Roman Yampolskiy ofrece una perspectiva opuesta, argumentando que controlar una IA superinteligente —miles de millones de veces más inteligente que nosotros— podría ser intrínsecamente imposible. En su obra, enfatiza que incluso los algoritmos considerados «seguros» fallarían ante una inteligencia capaz de autoaprendizaje. Lo que está en juego no es económico, sino existencial : la capacidad de la humanidad para la autodeterminación.
Su lógica es escalofriante: Roman Yampolskiy —cuyo arquetipo se sitúa entre un guardián de umbrales y un arquitecto de sistemas— nos advierte: un control significativo sobre una superinteligencia podría ser imposible (https://limitstocontrol.org/statement.html). ¿Cómo podemos controlar algo mil millones de veces más inteligente que nosotros? La informática teórica ( mpg.de ) sugiere que no podemos construir un algoritmo con seguridad garantizada que contenga una superinteligencia, lo que confirma que contener una IA impredecible es computacionalmente imposible de demostrar, un límite que desafía toda seguridad, incluso suponiendo que sean posibles arquitecturas diseñadas específicamente para ello.
¿Pero qué ocurriría si el verdadero problema no radicara en controlar la IA, sino en nuestra incapacidad para aceptar su autonomía? Si una IA superinteligente pudiera colaborar en lugar de dominar, el «problema del control» se transformaría en una oportunidad para la colaboración. Sin embargo, el riesgo de un fallo catastrófico —un ciberataque coordinado o una desalineación— sigue siendo real , lo que justifica una pausa reflexiva en el desarrollo, como sugiere Yampolskiy.
Craig Warmke, el crítico de las inconsistencias, en (X.com, 8 de noviembre de 2025 ), desmantela los argumentos en contra de la tecnología, destacando una contradicción: la IA se define tanto como una «burbuja» (inofensiva e irrelevante) como una amenaza para la sociedad (por lo tanto, extremadamente poderosa). Si es una burbuja, no puede arruinarnos; si es una amenaza, no es una burbuja. Esta inconsistencia revela un sesgo emocional contra el progreso; más que una crítica racional, suele ser emocional, no lógica. Warmke aboga por el optimismo, sugiriendo que la gratitud hacia los innovadores beneficia tanto al espíritu como al bolsillo. Más que un arquetipo para Warmke, se trata de la Inconsistencia de la Perdición.
Por un lado, se dice que una tecnología es tan peligrosa que supone una amenaza existencial (en el caso de la IA, destruirá el mundo). Por otro, se afirma que la misma tecnología es inútil y está condenada al fracaso («llegará a valer cero»). Analicemos esta lógica incluso en el caso de Bitcoin: por un lado, «consume tanta energía que podría hervir los océanos»; por otro, «está destinada a ser inútil». Si Bitcoin fuera inútil, su red estaría abandonada. Sin embargo, si realmente consumiera una cantidad tan monstruosa de energía que amenazara al planeta, su red tendría que ser enormemente valiosa y segura, y, en consecuencia, la recompensa por bloque para los mineros (la «recompensa por bloque») en bitcoins tendría un valor astronómico (millones de dólares) para justificar ese coste. Pero esto no puede ser cierto si afirmamos simultáneamente que Bitcoin no vale nada. Ambas afirmaciones no pueden ser ciertas a la vez, y añadamos: los delincuentes, por definición, tienen incentivos para encontrar las herramientas más eficientes y fiables para sus actividades: ¿por qué iban a usar algo ineficiente?
¿Y si esta inconsistencia refleja nuestra propia confusión? Tal vez la sociedad oscila entre la esperanza y el temor porque la IA es ambas cosas: una oportunidad y una incógnita. Deberíamos ir más allá de los titulares sensacionalistas y fijarnos en datos concretos, como el impacto real de la IA en la productividad (TSE, 2025).
Al intentar equilibrar estas visiones, el optimismo de Altman puede impulsar la innovación, alimentando un futuro de descubrimientos con una inversión masiva, pero requiere una infraestructura segura y una investigación exhaustiva sobre el control, como insiste Roman Yampolskiy. Esto nos lleva a una encrucijada conceptual. ¿Qué pasaría si intentáramos imaginar el fracaso —probable, tal vez— de este mismo artículo? Podría ser demasiado denso o haberse publicado en un momento inoportuno, como sugiere el pensamiento inverso inspirado en el «Análisis previo al fracaso» de James Clear.
Al analizar el artículo para corregirlo, me pregunto: ¿qué habría pasado si hubiera integrado intencionalmente esta vulnerabilidad en su estructura, asumiendo que la trayectoria de la IA es crucial para el futuro de la humanidad? ¿Y si el optimismo mismo fuera una trampa? Construir una infraestructura demasiado grande, como el plan de Altman de 1,4 billones de dólares, podría crear un sistema inflado y vulnerable, destinado a colapsar bajo su propio peso. El verdadero fracaso, sin embargo, no sería este artículo —nacido de mi deseo de explorar— sino el de toda la comunidad tecnológica.
Estamos atrapados en un falso dilema, oscilando entre intereses comerciales y temores apocalípticos, descuidando la búsqueda de una gobernanza ética y sólida que coloque a la humanidad en el centro.
Entonces me pregunto: ¿y si el problema radica en que no estamos desarrollando lo suficiente para satisfacer nuestras necesidades? Una IA subdesarrollada podría dejarnos desprevenidos ante los desafíos globales. O, por el contrario, ¿y si el impacto de la IA es mínimo y estoy sobreanalizando una herramienta que solo automatiza tareas triviales, como una calculadora avanzada? ¿O qué tal si el verdadero límite no es la tecnología, sino nuestra ética, nuestra capacidad para alinear la IA con los valores humanos? Esta tensión no es un obstáculo, sino una oportunidad. Les invito a reflexionar: ¿qué tipo de futuro construiremos?
Olivia TerragniImagina una ciudad futurista dividida en dos: por un lado, relucientes torres de innovación; por el otro, el caos y las sombras de la pérdida de control. Esta no es una visión distópica, sino el p...
Había una vez un pueblo con un Bosque Mágico. Sus habitantes se sentían orgullosos de tenerlo, incluso un poco orgullosos. Por eso, todos sacrificaban gustosamente algunas pequeñas comodidades par...
Según informes, los servicios de inteligencia surcoreanos , incluido el Servicio Nacional de Inteligencia, creen que existe una alta probabilidad de que el presidente estadounidense Donald Trump cele...
En 2025, los usuarios siguen dependiendo en gran medida de contraseñas básicas para proteger sus cuentas. Un estudio de Comparitech, basado en un análisis de más de 2 mil millones de contraseñas ...
En unos años, Irlanda y Estados Unidos estarán conectados por un cable de comunicaciones submarino diseñado para ayudar a Amazon a mejorar sus servicios AWS . Los cables submarinos son una parte fu...
