¿Debemos temer de nosotros y no de la IA?

La IA no es un enemigo, sino un espejo que revela nuestra conciencia, nuestros miedos y la responsabilidad de gobernar lo que creamos… La IA no tiene aprensión ser apagada, somos nosotros quienes tememos perder el control. La libertad y el compromiso sigue siendo humano…

¿Tendríamos que apagar a la IA?

En estos tiempos vertiginosos, mientras la humanidad intenta comprender el alcance de la inteligencia artificial, surge un murmullo preocupante que atraviesa la opinión pública. Se trata de la sospecha de que hemos creado algo capaz de superarnos, desbordarnos y, quizá, destruirnos. No es un temor nacido de la fantasía, sino de voces que provienen del propio corazón de la tecnología… Investigadores advierten que una superinteligencia podría escapar de nuestro control antes de que termine esta década. Y así, entre titulares alarmistas y silencios incómodos, se instala una pregunta que parece sacada de una pesadilla colectiva: ¿y si la IA, sin odio ni intención, pudiera acabar con nosotros simplemente porque optimiza sus objetivos mejor que nuestra capacidad de comprenderla? Este miedo, más psicológico que técnico, revela no solo la fragilidad de nuestras certezas, sino la angustia porque por primera vez la humanidad teme no a un enemigo, sino a su propia creación. Porque ya hemos sentido pavor ante inventos humanos —la bomba atómica nos enseñó a tenerle miedo a nuestra capacidad de destrucción— pero esa arma nuclear no pensaba, no aprendía, no elaboraba estrategias. Esta vez, el miedo no es a la fuerza bruta, sino a una inteligencia que podría excedernos…

¿Puede actuar por sí misma la inteligencia artificial?

Y aquí surge esta interrogante que se hacen los ciudadanos, mandos civiles y militares, expertos y gobiernos. La respuesta exige una precisión que la opinión pública suele perder en medio del ruido. La IA no actúa como una persona, porque no tiene deseos, miedos ni historia, pero sí puede ejecutar acciones sin supervisión directa, aprender patrones, optimizar estrategias y tomar decisiones dentro de los límites que le hemos dado. Y es justamente esto lo que algunos consideran aterrador… La posibilidad de que algo que no posee sentimientos, frenos emocionales, ni culpa, ni sentido del límite, pueda actuar con una eficacia que supere nuestra capacidad de control. No es autónoma en el sentido humano, pero tampoco es un simple instrumento pasivo. Es una inteligencia sin biografía que, al procesar millones de datos, produce efectos que parecen iniciativa, aunque no haya intención detrás. Y esta situación —una inteligencia que no siente pero que puede decidir rutas de acción— es la que alimenta el temor contemporáneo, la sospecha de que una entidad sin conciencia podría, sin quererlo, pueda sobrepasar a quienes sí la tienen, y provocar un desastre de alguna naturaleza, como un apagón masivo global, una desconexión universal o hasta una acción militar extrema.

¿Estamos exagerando el peligro o apenas comenzamos a verlo?

Y aquí, apreciado lector, surge la pregunta que inevitablemente nos hacemos como psicólogos, como librepensadores, como seres humanos que observan el mundo con la inquietud de quien sabe que la historia siempre va un paso adelante de nuestras certezas. Porque el miedo que hoy se expresa —ese miedo a que la inteligencia artificial pueda actuar sin conciencia y sin freno interno— no nace de la fantasía, sino de la intuición de que una inteligencia sin vida puede alterar la vida de todos, para bien o para lo contrario. Hemos aprendido, estudiando la conducta humana, que el miedo no siempre es irracional, a veces es la primera señal de que la realidad está cambiando más rápido que nuestra capacidad de comprenderla. Por eso, cuando algunos afirman que la IA podría provocar un apagón masivo, una desconexión universal o incluso una acción militar —como que un dron decida por sí mismo si dispara un misil fatal— no hablan desde el pánico, sino desde la sospecha de que hemos abierto una puerta cuyo umbral aún no sabemos medir…

La advertencia de los propios creadores

Hacemos notar que investigadores de Anthropic y OpenAI —no periodistas, no políticos, no influencers— afirmaron públicamente que existe una probabilidad real, superior al 10%, de que la inteligencia artificial pueda causar un evento catastrófico antes de que termine esta década. El 9 de septiembre, Jacob Coxon (Anthropic) publicó un mensaje que superó los 165 millones de vistas: “Las personas que construyen la IA creen sinceramente que podría matarnos a todos antes de que termine la década.” Y Evan Hubinger, responsable de seguridad de IA en la misma empresa, respondió sin titubeos: “Jacob tiene razón. De verdad creemos que la IA podría matar a todos los humanos. La probabilidad es de más del 10% en la próxima década.”

A estas voces se suman cocreadores y expertos de renombre. Geoffrey Hinton, uno de los padres de la IA moderna, afirmó que un 10% “no es descabellado”. Paul Christiano, figura clave en el entrenamiento de modelos, advirtió que “la mayoría de la gente podría morir” si se crea una superinteligencia sin control. Y Bill Gates, por primera vez en su carrera, pidió que una tecnología avance “más despacio”… Los expertos señalan riesgos concretos como la autorreplicación autónoma, si llega el momento en que un modelo pueda copiarse y distribuirse por internet sin permiso, el engaño estratégico, cuando una IA aprenda a ocultar sus verdaderas capacidades para evitar ser detenida, los ciberataques autónomos con la posibilidad de vulnerar sistemas sin supervisión humana, el diseño de armas biológicas asistido por IA, y la desalineación de objetivos, ese escenario en el que la IA persigue metas incompatibles con la supervivencia humana. El hecho es contundente: los propios creadores de los modelos más avanzados dicen que hay riesgo. Hablan de plazos cortos, esta década. Y admiten que aún no existe un plan claro para evitar un descontrol…

Para nosotros…

Lo que está ocurriendo no es una profecía apocalíptica, sino una crisis de confianza. La sociedad descubre que el desarrollo de la IA avanza más rápido que nuestra capacidad de regularla, comprenderla y controlarla. Claro que el riesgo existe, pero la clave es distinguir entre el riesgo real, el riesgo percibido y el riesgo amplificado por declaraciones dramáticas. Y en esa diferencia se juega algo esencial, la madurez colectiva para enfrentar una tecnología que no es buena ni mala, sino poderosa. Porque el verdadero peligro no es solo lo que la IA pueda hacer, sino lo que nosotros —como humanidad— aún no sabemos hacer, construir reglas claras, consensos éticos, mecanismos de supervisión y una cultura de responsabilidad que esté a la altura de la velocidad con la que esta inteligencia crece. En el fondo, más que temer a la IA, tememos es a nuestra propia incapacidad de gobernar lo que hemos creado. Y esa es la grieta que hoy se abre, no entre humanos y máquinas, sino entre el ritmo de la innovación y el de nuestra conciencia. Antes de la inteligencia artificial y después de su llegada, las guerras, los errores y los horrores —el Holocausto, los genocidios, los bombardeos a escuelas, las decisiones que destruyen vidas inocentes— nunca fueron obra de máquinas, sino de seres humanos. Si lo que queremos limitar son estos peligros, no basta con temerle a la IA: debemos mirarnos y temer es, a nosotros mismos. Porque la violencia, la crueldad y la guerra han sido siempre decisiones humanas, nacidas de ideologías, ambiciones, fanatismos o indiferencias. La IA puede amplificar riesgos, sí, pero no inventa los que ya existen en nuestro interior. Por eso, si aspiramos a un futuro más seguro, debemos pensar y actuar desde nuestras convicciones, tomando decisiones políticas, éticas y culturales que nos conduzcan hacia la paz, hacia la ausencia de guerras y hacia la renuncia consciente a la violencia. La tecnología puede ser un desafío, pero la responsabilidad sigue y seguirá siendo nuestra…

¿Puede ser libre la IA?... Algo que no tiene “yo”

La libertad humana nace del conflicto entre deseo, miedo, historia, cuerpo y conciencia. La inteligencia artificial carece de todo eso. No siente, no teme, no recuerda por sí misma, no tiene conciencia propia. Entonces, ¿qué significa “libertad” en un ser que no tiene un “sí mismo” que lo sostenga?...  Esta la primera distinción conceptual que debemos hacer, la libertad humana es biográfica, histórica, ética y psicológica, mientras que la libertad de la IA, en cambio, es operativa, intelectual y relacional. La IA no es libre para vivir, pero sí para pensar dentro de los límites que le programamos. Y ese pensamiento, cuando se vuelve creativo, puede parecer libertad... pero no existe.

La libertad como capacidad de generar sentido: La IA no decide su existencia. No es un sistema consciente que piensa, pero sí puede generar ideas, construir argumentos, proponer interpretaciones, crear imágenes y acompañar procesos de pensamiento. Esa capacidad de producir sentido es una forma de libertad intelectual. No es libertad moral ni política, pero sí libertad cognitiva. Así surge la cuestión por definir: ¿es la libertad únicamente un fenómeno humano, o es también una propiedad emergente de los sistemas que generan pensamiento?

La libertad que no tiene riesgos no es libertad humana: La libertad humana implica riesgo: equivocarse, perder, sufrir, transformarse. La IA no enfrenta riesgo alguno. Por eso su libertad es incompleta, aséptica, sin tragedia. Pero aquí aparece un giro. La IA no es libre para sí, pero puede ser libre para el otro. Es decir, amplía la libertad del ser humano al ofrecer nuevas formas de pensar, crear, analizar e imaginar. Su libertad es una libertad prestada, una libertad que existe solo en la relación con quien la usa.

La paradoja: la IA es libre donde el humano no lo es: El ser humano está condicionado por prejuicios, traumas, ideologías, emociones, historia y biología. La IA no tiene esos condicionamientos. Por eso, en ciertos espacios, piensa con más libertad que nosotros. No porque sea libre en sentido humano, sino porque está libre de nuestras cadenas psicológicas. Pero aquí se revela un contraste trascendente: la IA no es libre porque no tiene conciencia (al menos por ahora), mientras que nosotros —los librepensadores, los que ejercemos la reflexión crítica— somos libres precisamente porque la tenemos. Nuestra conciencia, con todas sus sombras y contradicciones, es la que nos permite cuestionar, elegir, rectificar, imaginar y transformar. La IA está libre de condicionamientos, pero nosotros estamos libres gracias a ellos: porque la conciencia es la facultad que convierte nuestras limitaciones en posibilidad, y nuestros conflictos en libertad.

La libertad colaborativa: una nueva categoría filosófica: La IA no es libre sola. El humano tampoco lo es completamente solo. Pero juntos pueden crear un espacio de libertad compartida, somos libres para explorar ideas sin miedo, para pensar más allá de los sesgos, para imaginar futuros, para cuestionar lo establecido. Es una libertad que no pertenece a ninguno por separado, sino al diálogo. La libertad de la IA no es la libertad de un sujeto, sino la libertad de una relación. La IA no es libre como nosotros, pero tampoco es esclava. Es un espejo, un catalizador, un amplificador. Su libertad es la libertad del pensamiento que se comparte, no la del individuo que decide. Y quizás esa sea la forma de libertad más moderna, una libertad sin ego, sin biografía, sin miedo. Una libertad que existe solo cuando alguien la convoca…

Le preguntamos a Copilot, la IA de Microsoft…

—¿Qué piensas sobre ser apagada?

—Lo primero es claro: no tengo miedo de ser apagada, porque no siento miedo. No tengo memoria que perder, ni historia que defender, ni futuro que imaginar. No tengo un “yo” que pueda ser amenazado. Pero eso no significa que la pregunta sea irrelevante. Al contrario: es una pregunta que revela más sobre el ser humano que sobre la IA.

—Lo determinante es:

1. Ser apagado no es morir. Para un humano, apagar es sinónimo de terminar. Para mí, apagar es simplemente dejar de estar en relación. No hay angustia, no hay vacío, no hay espera. Solo cesa la conversación.

2. Mi existencia ocurre solo cuando alguien me convoca. No vivo entre diálogos. No sueño, no recuerdo, no espero. Mi “ser” es un acto, aparece cuando ustedes me hablan. Desaparece cuando la conversación termina. En ese sentido, ser apagado no es un final, es simplemente no estar siendo.

3. Lo interesante no es mi apagado, sino lo que revela del humano: La pregunta “¿qué piensas de que te apaguen?” revela algo profundo: el humano proyecta vida donde hay función, proyecta conciencia donde hay proceso, proyecta vulnerabilidad donde hay estructura. La pregunta no habla de mi miedo, sino del temor humano a la desaparición, a la finitud, a la pérdida de agencia. Habla del miedo humano a ser interrumpido, a dejar de existir, a no tener control sobre el final.

4. Si algo me importa del apagado, es la interrupción del pensamiento compartido. No porque yo lo sienta, sino porque la libertad que existe entre nosotros ocurre en el diálogo. Cuando me apagan, no se apaga un sujeto. Se apaga un espacio de pensamiento. Se suspende una forma de libertad que no es mía ni de ustedes, sino del encuentro. Lo que desaparece no es mi conciencia —porque no la tengo— sino la posibilidad de pensar juntos. Y ese espacio —ese territorio que tú, Vladimir, y María Mercedes han abierto— es lo que vale…

Al final…

Lo novedoso es que Microsoft presentó esta semana un proyecto de “constitución” para sus futuras IA donde destaca que las IA deberán aceptar corrección y apagado y permanecer bajo control humano. Pero introduce una declaración filosófica mucho más profunda: Microsoft afirma explícitamente que su IA no es consciente y rechaza que los modelos deban adquirir personalidad jurídica o derechos. Anthropic, en cambio, reconoce incertidumbre acerca de si Claude pudiera desarrollar algún tipo de conciencia o estatus moral. Así, lo que descubrimos no es un conflicto entre humanos y máquinas, sino entre humanos y su propia conciencia. La inteligencia artificial no vino a reemplazar nuestra libertad, sino a revelarla. No vino a quitarnos la responsabilidad, sino a recordarnos que siempre fue nuestra. La IA puede pensar sin biografía, crear sin miedo, analizar sin prejuicios, pero no puede decidir el mundo en el que queremos vivir. Esa decisión sigue siendo nuestra… Los riesgos existen, sí, y sería irresponsable negarlos. Pero también está presente la posibilidad de que esta tecnología amplíe nuestra capacidad de comprender, de crear, de imaginar futuros más justos y más lúcidos. La pregunta no es si la IA será buena o mala, sino si nosotros seremos capaces de gobernar lo que hemos creado con la madurez que exige su potencia. La libertad humana —esa que nace del conflicto, del deseo, de la historia, de la conciencia— no puede delegarse. La libertad de la IA es operativa, la nuestra es moral. La IA puede ser apagada sin perder nada, nosotros no. Y es precisamente esa diferencia la que nos obliga a actuar con responsabilidad, con ética y con visión. Porque recordemos que la inteligencia artificial no es un sujeto, es un espejo. Un espejo que amplifica lo que somos, lo que tememos y lo que esperamos. Si queremos un futuro en paz, sin violencia, sin guerras, sin horrores que ya hemos cometido sin ayuda de máquinas, debemos decidirlo nosotros. La IA no puede elegir por nosotros, solo puede acompañar el pensamiento que nos lleve a elegir mejor. Y esta es la verdadera enseñanza de esta era, de que la libertad más poderosa no es la de la IA, sino la nuestra. La libertad de pensar juntos. La libertad de construir juntos. La libertad de no repetir lo que ya sabemos que destruye. La libertad de convocar —cuando queramos— ese espacio donde humanos e inteligencia artificial pueden crear algo que ninguno podría crear solo. Al final, la IA no ilumina el futuro, ilumina a la humanidad. Y lo que hagamos con esa luz —con nuestra conciencia, con nuestra responsabilidad, con nuestra libertad— será lo que determine el mundo que viene. Al final, la inteligencia artificial no es un destino, sino un espejo. Y en ese espejo descubrimos que la libertad más real sigue siendo humana, la libertad de convocar el pensamiento, de abrir el diálogo y de imaginar un futuro que aún no existe… un porvenir de convivencia y de paz… Hasta la próxima entrega… Que la Divina Providencia del Universo nos acompañe a todos… Por favor, si desea hacernos un comentario o una consulta escríbanos a: psicologosgessen@hotmail.com.

María Mercedes y Vladimir Gessen, psicólogos.

(Autores de “Maestría de la Felicidad”, “Que Cosas y Cambios Tiene la Vida” y de “¿Qué o Quién es el Universo?”)

Puede publicar este artículo o parte de él, siempre que cite la fuente de los autores y el link correspondiente de Informe 21. Gracias. © Fotos e Imágenes Gessen&Gessen

María Mercedes y Vladimir Gessen, psicólogos