SOMA, nuestro próximo juego de terror y ciencia ficción, profundiza en los misterios de temas como la identidad y la conciencia. En este aporte me gustaría explorar las inspiraciones del mundo real que han dado forma a nuestro juego.
El problema de otras mentes
Relájate y concéntrate solamente en lo que te gustaría ser por un momento. Puedes escuchar los sonidos, sentir las cosas, ver las cosas y así sucesivamente. También tienes ciertas respuestas emocionales conectadas a esto y percibes el mundo que te rodea de una manera determinada. Todas estas cosas constituyen la esencia de tu ser.
Aunque sabes con seguridad que estas experiencias existen para ti, ¿cómo puedes saber con seguridad si otros las tienen? Dado que estas emociones son puramente subjetivas y carecen de cualquier tipo de base física, no hay ningún lugar que se pueda observar en el interior de una persona para estar absolutamente seguro. Después de todo, parece posible que una persona pueda actuar como si tiene conciencia, pero que esto se logre de una manera puramente mecánica y que no estén involucradas sensaciones subjetivas.
Para la mayoría de la gente la solución es bastante simple. Buscamos y actuamos lo suficientemente parecidos entre nosotros para suponer que todos debemos tener una experiencia subjetiva similar. Aunque nunca podemos estar 100% seguros, sí podemos estar bastante seguros. Hay casos donde se pone difícil, sin embargo. Por ejemplo, ha habido casos en que los pacientes comatosos han vuelto a estar conscientes y plenamente despiertos durante años, sin que esto signifique ningún medio para comunicarse con el mundo exterior. Aun más difícil es la cuestión de si los animales tienen conciencia.
Y es aun más difícil cuando se trata de robots. Si un robot actúa como si fuera una persona consciente, ¿debemos considerarlos humanos? ¿Hay algún atributo que se requiera para ser realmente consciente? Y si nos damos cuenta de que una máquina, probablemente es consciente, debe tener los mismos derechos que nosotros? Estas preguntas y muchas similares a ellas son las cosas a las que te enfrentarás cara a cara en SOMA.
El extraño caso de Anosognosia
Una vez más, céntrate un poco en ti mismo. Mira tu cuerpo de arriba a abajo, mueve las extremidades y siente tu piel. Estás muy seguro de que tienes una descripción exacta de lo que eres ¿verdad? De hecho, ni siquiera tienes que mirar muy activamente, o meterte en ti mismo para saber que estás allí. Simplemente puedes cerrar los ojos y saber que todo está ahí. Esta capacidad de conocer nuestro propio cuerpo es algo natural y parece que es la cosa más obvia del mundo.
Entra al extraño mundo de Anosognosia. Después de un derrame cerebral, algunas personas tienen uno de sus brazos sin fuerzas y no pueden moverlo. Pero lo raro es que van a negar que esto les ha sucedido a ellos. Si un doctor les preguntara si pueden mover su brazo inerte, le van a decir que “sí” y luego actuarían como si hubieran hecho precisamente eso, cuando en realidad el brazo quedó inmóvil. Si se sondearan más, van a empezar a poner excusas, como “No me siento bien ahora mismo”, o ¡incluso negar que el brazo es de ellos! Sin embargo, aparte de negar su lesión, sus capacidades cognitivas y el autoconocimiento están por lo demás perfectamente bien.
Piensa en esto por un momento. Piensa en lo obvio que sería para ti saber todo acerca de tu propio cuerpo. Ahora considera que estas personas sienten que es obvio que ellos tienen dos brazos funcionales. Pero lo que es aun más espeluznante es que a medida que empiezan a empujarlos, empiezan a dar estas explicaciones extravagantes, como si fueran autómatas rotos. En cierto modo, es como si entráramos en un mundo crepuscular entre lo espiritual y lo físico. El daño cerebral hace que la parte humana de nosotros se descomponga y revele la maquinaria que hay debajo. Y esto es exactamente la zona espeluznante en que se establece SOMA.
Los peligros de controlar la IA
Al ponerse nuestra IA cada vez más poderosa pronto comenzará a hacer frente a un gran problema: ¿cómo podemos asegurarnos de que se comporta como queremos que lo haga? ¿Cómo se codifica un sistema de modo que entienda y tome los valores humanos en consideración?
Normalmente, cuando se habla de IA, nos imaginamos algo como HAL, una máquina parlante que entiende los deseos humanos, pero no se tiene por qué ir tan lejos como eso. Considere un auto que se conduce a sí mismo y lleva un pasajero. Qué hay si se presenta una situación en la que calcula que tiene dos opciones. Una, podría hacer una maniobra evasiva y salvar la vida del pasajero que va en el interior. O dos, cruzar el puente, matar a su acompañante, o, en su lugar, salvar a las cuatro personas que vienen en un auto al frente. Si programamos la IA para salvar el mayor número de vidas, entonces hacemos un auto que podría matar a su propio pasajero. Y si hacemos lo contrario, proteger los seres humanos del interior a toda costa, el auto podría arrollar a los peatones para salvar a sus pasajeros.
Es muy difícil tener máquinas que hagan lo que queremos, y cuanto más inteligentes y complicadas se vuelvan, más difícil se vuelve el problema. Nos gustaría pensar que algunas cosas como la santidad de la vida, etc., son conceptos fundamentales, pero esto no tiene por qué ser cierto para una IA en absoluto. Por ejemplo, un famoso experimento propone una IA que no ve nada de valor más alto que los clips de papel y continúa convirtiendo en ellos todo el planeta. Puede sonar descabellado para nosotros, pero para una IA, incluso una de inteligencia extrema, todo lo que consideramos sagrado podría no significar nada. Este es otro ángulo que SOMA explora.
Espero que esto te dé una idea de qué se trata SOMA. También esto te debe preparar un poco para el extraño mundo en que entrarás cuando SOMA sea presentado el 22 de septiembre.
Los comentarios están cerrados.