Elegir entre vivir y ser vividos
Hoy estaba sentado en la sala de espera del médico, hace unos días tuve un accidente laboral y me amputé una falange del dedo índice. De pequeño me decían que el trabajo es salud; solo con llegar a tu edad laboral te das cuenta que te habían engañado. Pero supongo que es lo que se solía llamar una mentira piadosa, que seguramente escondía el comienzo de tu programación como trabajador asalariado.
Mientras miraba el móvil para hacer tiempo me llego un whatsApp de mi amigo Josep sobre un experimento hecho por el filósofo Jhon Searle en 1980 llamado "La habitación China " y cuyo objetivo era refutar que las computadoras que ejecutaban un programa pudieran tener comprensión o inteligencia. Es un tema que me interesa y, como la espera se estiraba decidí preguntarle a una IA que me resumiera el experimento , así que pregunte a DeepSeek sobre el tema y esta es su explicación del experimento de Searls;
El Experimento Mental: La Habitación China
Imagina esta escena:
Tú eres el protagonista. Estás sentado dentro de una habitación. No sabes ni una palabra de chino. Para ti, los caracteres chinos son sólo garabatos sin sentido.
Tienes un manual. Es un conjunto de reglas enormemente complejo, escrito en un idioma que tú sí entiendes (pongamos que en español). Este manual no te dice el significado de los caracteres, sino te da instrucciones puramente sintácticas: "Si ves este conjunto de garabatos (A), responde con este otro conjunto de garabatos (B)."
Llega una pregunta. Alguien fuera de la habitación te desliza por debajo de la puerta una hoja con unos caracteres chinos (la pregunta). Tú, siguiendo al pie de la letra las reglas del manual, buscas los garabatos que coinciden, ves qué garabatos tienes que devolver, y los escribes en una hoja que pasas al exterior.
El resultado milagroso. Para la persona fuera de la habitación, que sí habla chino, tus respuestas son perfectas, coherentes y demuestran una comprensión total del idioma. Cree que dentro de la habitación hay un ser inteligente que domina el chino.
La Gran Pregunta de Searle:
Tú, que estabas dentro de la habitación, ¿entendiste chino en algún momento? La respuesta intuitiva es NO. Solo estabas manipulando símbolos sin comprender su significado.
Veamos, en la respuesta de DeepSeek el experimento queda claro y lo que busca Searle es entendible, demostrar que para que una IA se considere inteligente tiene que hacer mucho más que cálculos rápidos y juntar letras con coherencia.
Todo esto nos lleva a un debate muy interesante;¿cuál es el problema de si la IA tienen o no conciencia?
¿ Qué es lo que nos preocupa de esta nueva herramienta que ha desarrollado el ser humano?. Quiero suponer que lo más nos preocupa de una herramienta en general es su eficiencia y su función. Esta en cierto punto nos da miedo porque parece tener una gran eficiencia y su función es la de transformar la realidad tal cual la conocemos. Si va a transformar de verdad la realidad entonces el gran problema es en que manos está esta herramienta creadora de nuevos mundos. El gran miedo es su capacidad manipuladora de nuestras mentes.
Vamos a detenernos aquí un momento porque esto ya da más miedo que preocupación y visitemos brevemente la historia de la humanidad, que es lo mismo que la historia de nuestros cerebros y de la conciencia humana.
La conciencia, ese misterio humano que podemos ubicar dentro de nuestro cerebro y que no es mas que el fruto de nuestra percepción de la realidad nunca ha sido inmaculada, no existe la conciencia inmaculada. La idea de un ser humano con una voluntad y una percepción totalmente libres de influencia es un mito. Nuestro cerebro es y será un campo de batalla de influencias veamos cuales
-Los sesgos cognitivos nuestra propia biología nos manipula tenemos atajos mentales que distorsionan nuestra percepción de la realidad para ahorrar energía. Por ejemplo; Asumir que una persona tranquila y detallista es bibliotecaria, porque encaja con el estereotipo, en lugar de considerar que podría ser de cualquier otra profesión.
-La cultura y la socialización; Desde que nacemos, nuestro "software" mental es instalado por la familia, la escuela y las normas sociales. Es la manipulación más profunda y fundamental
-Los mecanismos de poder históricos desde los confines de la historia, chamanes, brujos, sacerdotes, reyes, y filósofos han sido en esencia ingenieros de la conciencia colectiva.
-Los fenómenos naturales el miedo al trueno o la devoción por el sol de nuestros antepasados son un ejemplo de nuestra percepción de agentes externos
En definitiva nuestra conciencia no es un halo puro e inalterable que nos convierte en criaturas especiales, es una especie de órgano de consenso y navegación social que evolucionó para ser maleable. Su función no es reflejar una "verdad objetiva", sino crear una "verdad operativa" que permita la cooperación y la supervivencia del grupo, por ejemplo los mitos fundamentales de una nación
Si la manipulación es un hecho de la condición humana entonces podemos dejar de preguntarnos si la IA tiene conciencia y abordar el problema de una forma pragmática, analizando la relación como un tema de ética, política y diseño. Porque aquí sí que tenemos mucho por decir y el problema vuelve a nuestras manos en busca de unos consensos que trasciendan lo económico y prime lo humano
¿Queremos una IA que manipule para maximizar nuestro tiempo de pantalla y las ventas o que manipule suavemente para fomentar hábitos saludables de vida, convivencia y cohesión social? Podemos pedir controles que defiendan nuestros derechos a la transparencia,("¿ porque me estas mostrando esto?"). Derecho a la incognoscibilidad, "no puede usar mis datos para inferir en mis vulnerabilidades psicológicas mas profundas"
En definitiva que sociedad en que queremos convertirnos depende del control político que se le quiera poner a esta herramienta que hemos creado y que va a ser la próxima revolución humana. Estamos obligados a ser informados y consultados para participar de este momento que decidirá nuestro futuro; si seremos una humanidad de pantallas y sofá delegando toda la responsabilidad de nuestra vida a las decisiones de unos algoritmos que nos tengan adormecidos o queremos que la IA forme parte de una sociedad de ciudadanía activa, con acceso a información veraz y poder de decisión.
Este es el legado de nuestra generación. No la conquista del espacio, sino la defensa de nuestra propia soberanía, cognitiva. la elección al fin y al cabo entre "vivir y ser vividos "
La información de este articulo la puedes corroborar en la pagina Antidoto 2.0
No hay comentarios:
Publicar un comentario