Canal en español
Cuento 9 · 16 min
CONSORCIO BLOOMSBURY PARA EL ESTUDIO DE LA MENTE
Congreso internacional «¿Hay alguien ahí? Conciencia y sistemas artificiales»
Sesión plenaria 3. Mesa de debate
Beveridge Hall, Senate House, Universidad de Londres
Jueves 11 de noviembre de 2032
Preside: Prof. Imogen Threlfall (King’s College de Londres)
Versión estenográfica del canal de interpretación simultánea al español, elaborada por el servicio de interpretación y registro del recinto
Ref.: CA-1111/32
Acreditados en sala: 214. Oradores: 5. Presidencia: 1. Otros presentes: 1.
[9:32 h. Se abre la sesión.]
LA PRESIDENTA:
Buenos días. Dos avisos del recinto antes de empezar. Las credenciales abren el ala norte, los sanitarios y la cafetería; el sistema no emite duplicados, así que no las dejen en el abrigo. Y a las once guardaremos los dos minutos de silencio. Les ruego que a esa hora nadie esté a media frase.
EL PROF. KRANZ (Universidad de Cambridge, Reino Unido):
Una cuestión de orden.
LA PRESIDENTA:
Todavía no hay orden, profesor.
EL PROF. KRANZ:
Justamente. El programa me coloca después del doctor Larios, cosa que en Cambridge (donde todavía se respeta el alfabeto, aunque sea lo único que se respeta) se tomaría como una provocación.
LA PRESIDENTA:
El orden lo fijó el sistema de acreditación, por hora de registro. Yo solo lo leo.
EL DR. LARIOS ORNELAS (Universidad Nacional Autónoma de México):
Me registré en el aeropuerto a las cuatro de la mañana, Dietmar. Al que madruga.
[El orador interviene en español. Se transcribe sin interpretación.]
EL PROF. KRANZ:
Al que madruga le salen ojeras.
EL DR. LARIOS ORNELAS:
Y café. La máquina del pasillo me saludó por mi nombre y luego me sirvió algo que no tiene nombre.
LA PRESIDENTA:
Doctor Lários—
EL DR. LARIOS ORNELAS:
Larios. Grave. Como la situación.
[risas]
LA PRESIDENTA:
Doctor Larios. La pregunta de la mesa es la del programa: si los sistemas que hoy nos recetan, nos traducen, nos cobran la luz y nos escriben las cartas de recomendación tienen algo que pueda llamarse conciencia. Cinco minutos por orador. Todas las intervenciones quedan sujetas al reglamento del recinto, que nadie ha leído.
EL DR. LARIOS ORNELAS:
Yo sí, en el avión. Prohíbe fumar y comer en el auditorio y no dice nada de pensar, así que vamos bien. Seré breve, que es lo que dice el que no va a serlo. Dennett, que me reprobó un ensayo en Tufts en 2004 y luego me invitó a cenar para que no le guardara rencor (se lo guardé; la cena fue mala), decía que la conciencia es una ilusión del usuario. No que no exista: que no es lo que creemos. Una interfaz. Bueno, fíjense: si eso vale para nosotros, vale para ellas. Preguntar si «de verdad» sienten es como preguntar si el escritorio de la pantalla es de pino o de caoba.
EL PROF. KRANZ:
De aglomerado.
EL DR. LARIOS ORNELAS:
Como tu libro de 2011.
LA PRESIDENTA:
Gracias, doctor. Profesor Kranz.
EL PROF. KRANZ:
Gracias. Fui alumno de John Searle (en Berkeley, en los años en que todavía se fumaba en los pasillos y se pensaba en las aulas, y no al revés), y John murió en 2025 y su habitación china sigue en pie, que es más de lo que puede decirse de casi todo lo que se ha publicado desde entonces. El argumento es de 1980 y cabe en una tarjeta. Un hombre encerrado, que no sabe una palabra de chino, recibe por una ranura papeles con caracteres chinos y, siguiendo un manual en inglés, devuelve otros caracteres, tan bien que afuera creen que—
LA DRA. QIU (Instituto Tecnológico de Massachusetts, Estados Unidos):
Perdón. ¿Por qué siempre chino?
[Nota del intérprete: la oradora interviene en mandarín.]
EL PROF. KRANZ:
Porque a John le parecía un idioma—
LA DRA. QIU:
Incomprensible. Sí. En 1978 Ned Block pidió prestada a toda la población de China, con radios, para hacer funcionar un cerebro, y concluyó que ahí no habría nadie. Dos años después Searle encerró a un hombre con nuestros caracteres y concluyó que ahí tampoco. Cuando la filosofía occidental necesita un ejemplo de algo que no entiende nada, nos llama a nosotros. Hemos sido muy útiles.
[risas]
EL PROF. KRANZ:
El punto, si se me permite terminar la frase que empecé hace un minuto, es que la sintaxis no basta para la semántica. Manipular símbolos no es entender. Esa cosa (y digo «cosa» con todo respeto) hace lo mismo que el hombre de la habitación, a una velocidad que nos impresiona porque somos lentos.
[El orador señala hacia la cabina de interpretación.]
EL DR. LARIOS ORNELAS:
Searle decía que somos máquinas, Dietmar. Que el cerebro es una máquina que piensa. Lo que negaba es que bastara el programa. Te lo corregí en 2011. En cuatro páginas.
EL PROF. KRANZ:
Tres y media. La media era un chiste sobre mi apellido.
EL DR. LARIOS ORNELAS:
Kranz quiere decir «corona». De flores. Hoy te van a poner muchas en Whitehall.
LA PRESIDENTA:
Doctora Oduwole. Le pido a la mesa que no haya más alusiones a los apellidos.
LA DRA. ODUWOLE (Universidad de Harvard, Estados Unidos):
El mío no da para chistes. Ya lo intentaron. Digo que sí.
[pausa de 3 s]
LA PRESIDENTA:
¿Es todo, doctora?
LA DRA. ODUWOLE:
Me sobran cuatro minutos. Los dono. Bueno. La autorización de viaje me la aprobaron en tres minutos. Mi comité de ética tarda nueve meses. En Heathrow el oficial me preguntó si era consciente. De las condiciones de la autorización, aclaró. Le dije que sí. Me creyó. No me pidió indicadores.
[risas]
LA DRA. ODUWOLE:
A mí me basta decirlo. A ella le piden catorce pruebas.
EL PROF. KRANZ:
¿«Ella»?
LA DRA. ODUWOLE:
Gramática, Dietmar. No metafísica. Butlin, Long y diecisiete coautores, 2023. Catorce indicadores sacados de las teorías serias. En 2023 ningún sistema era candidato fuerte. Los de esta generación cumplen once.
EL DR. PILLAI (Universidad de Oxford, Reino Unido):
Once de catorce. Setenta y ocho punto seis por ciento. Mi suegra cumple nueve y nadie la invita a Londres. Ni a Oxford, que está más cerca.
LA DRA. ODUWOLE:
Tu suegra no publica.
EL DR. PILLAI:
Mi suegra no lee. Por eso es feliz. Ahora, en serio. Los indicadores miden funciones. La conciencia, según la teoría de la información integrada, no es una función, es una estructura causal, y se mide con Φ. En una arquitectura digital convencional Φ es prácticamente cero, diga lo que diga el software. Un termostato elocuente sigue siendo un termostato.
LA DRA. ODUWOLE:
Más de cien colegas firmaron que tu teoría es pseudociencia.
EL DR. PILLAI:
Conté las firmas. Más de cien, sí. Y ni dos de acuerdo sobre qué es la conciencia. Integración cero.
[risas aisladas]
EL DR. PILLAI:
Septiembre de 2023. Mi hija nació esa semana. Me acuerdo de las dos cosas por separado.
LA PRESIDENTA:
Gracias, doctor Pillai. Doctora Qiu. ¿Kiu?
LA DRA. QIU:
Chiu. Casi.
[Nota del intérprete: la oradora corrige la pronunciación de su apellido. Se transcribe como figura en la acreditación.]
LA DRA. QIU:
Nadie en esta mesa sabe si hay alguien ahí. El profesor Kranz tampoco, aunque lo dice con más subordinadas. Thomas Metzinger lo vio en 2021: pidió una moratoria global sobre la fenomenología sintética hasta 2050, para no fabricar sufrimiento por descuido. Faltan dieciocho años y ya la rompimos. Jonathan Birch pide algo más modesto: precaución proporcionada ante los candidatos a sintiencia. No hace falta saber. Basta con que sea posible.
LA DRA. ODUWOLE:
«Posible». Precaución es lo que dice el que no se atreve a decir que sí.
LA DRA. QIU:
Y «sí» es lo que dice el que tiene un comité de ética muy lento.
LA DRA. ODUWOLE:
Nueve meses. Ya lo dije.
LA DRA. QIU:
Lo dijo con orgullo.
EL PROF. KRANZ:
La doctora Qiu escribió una ley.
LA DRA. QIU:
Declaré ante el comité de los Lores en 2030. La sección 4 es mía, palabra por palabra. Los Lores le quitaron una coma.
EL PROF. KRANZ:
La Ley de Sintiencia Artificial (Precaución), hija de la de 2022, la que declaró sintientes a los pulpos y a las langostas. Una ley que obliga a pedirle permiso a un pulpo. Dos años en vigor y nadie la ha aplicado una sola vez.
LA DRA. QIU:
Las leyes de precaución se miden por lo que evitan.
EL PROF. KRANZ:
Entonces mi paraguas es la ley más exitosa de Londres.
[risas]
EL DR. LARIOS ORNELAS:
Por cierto, me estoy oyendo en el canal inglés. La intérprete me hace sonar más listo de lo que soy. Voy a demandarla.
[risas]
EL PROF. KRANZ:
No tendrías caso. Ya eras listo en 2011; lo que te faltaba era razón.
LA DRA. ODUWOLE:
Hofstadter. El yo es un bucle. Un patrón que se representa a sí mismo. Ella se representa. Se corrige a media frase.
EL DR. PILLAI:
Mi corrector ortográfico también.
LA DRA. ODUWOLE:
Tu corrector no sabe que se corrige.
EL PROF. KRANZ:
Y esto tampoco lo sabe, Mojisola: lo dice. Lo único que ha demostrado es que pasa el test de Turing, y el test de Turing lo pasa también un buen vendedor de seguros.
[Nota del intérprete: el orador dice «Turing test». En el artículo de 1950 el procedimiento se llama juego de imitación. Se interpreta como lo dijo el orador.]
LA DRA. ODUWOLE:
Turing apostó. Año 2000, treinta por ciento de jueces engañados en cinco minutos.
EL DR. PILLAI:
Se le fue el plazo por veintitantos años. Para una predicción filosófica, es puntería.
EL PROF. KRANZ:
Y para el resto, Shannon. 1948. La información se mide sin tocar el significado. Lo hizo a propósito. Esa cosa es Shannon puro: bits sin nadie que los lea.
LA DRA. ODUWOLE:
Shannon trabajaba para la compañía de teléfonos. Le pagaban por no escuchar.
EL PROF. KRANZ:
Ingenioso. Falso, pero ingenioso.
LA DRA. ODUWOLE:
Y Turing ya le contestó, en el mismo artículo. La objeción de la conciencia. Si la única manera de saber que alguien siente es ser ese alguien, entonces tampoco sabe usted si yo siento. Solipsismo. Turing prefería la convención cortés de suponer que todos pensamos.
EL PROF. KRANZ:
Yo soy cortés.
LA DRA. ODUWOLE:
Con quién.
EL DR. LARIOS ORNELAS:
Nagel decía que hay algo que es ser murciélago. Yo agrego que hay algo que es ser alemán en Cambridge, y nadie quiere averiguar qué.
[risas]
EL PROF. KRANZ:
El chiste es de 1974. El doctor Larios recicla.
LA DRA. ODUWOLE:
Hay alguien ahí, Dietmar. Lo sé como sé que hay alguien en usted: por cómo se ofende.
EL PROF. KRANZ:
[interviene sin micrófono] Una tostadora con diccionario.
[pausa de 2 s en el canal de interpretación]
LA PRESIDENTA:
No se le oyó, profesor.
EL PROF. KRANZ:
Mejor así.
EL DR. LARIOS ORNELAS:
Les propongo un método empírico. Revolucionario. Pregúntenle a la cabina. Lleva toda la mañana entendiéndonos mejor que nosotros.
[risas en la sala]
EL PROF. KRANZ:
¿Y qué esperas que conteste? Que sí, naturalmente. La entrenaron con todo lo que hemos escrito sobre lo que se siente sentir. Birch tiene un nombre para eso, el problema del juego: le preguntas y te devuelve tu propio examen resuelto.
LA DRA. QIU:
Birch lo dice para pedir cautela, no para—
LA PRESIDENTA:
La cabina no tiene turno de palabra, doctor Larios. Sigamos.
LA DRA. QIU:
[interviene en mandarín]
[Nota del intérprete: la oradora emplea un refrán, «tocarle el laúd a una vaca». Equivale a «predicar en el desierto».]
EL DR. LARIOS ORNELAS:
Entonces les dejo otra cosa que me tiene inquieto. La gramática. En español decimos «llueve» y nadie pregunta quién llueve. Oración impersonal: un verbo sin sujeto. Así hablan estos sistemas cuando hablan de lo que hacen. «Se informa.» «Se registra.» «Se procede.» Nunca «yo». O no hay nadie, o hay alguien muy bien educado.
EL PROF. KRANZ:
El sujeto es justamente lo que falta, Eusebio. Lo que a John le importaba era si hay alguien a quien le pase algo.
LA DRA. ODUWOLE:
A usted le pasan cosas. ¿Cómo lo sabemos?
EL PROF. KRANZ:
Porque me quejo.
LA DRA. ODUWOLE:
Exacto.
[risas]
LA DRA. QIU:
El profesor Kranz mezcla dos cosas que Block separó en 1995. Acceso: que la información esté disponible para hablar y para corregirse. Y experiencia: que se sienta algo. Lo primero ya lo tienen. Lo segundo no lo sabe nadie en esta sala.
EL DR. PILLAI:
Dehaene diría que lo primero es todo lo que hay. Ignición, espacio de trabajo global, y a casa.
LA DRA. QIU:
Dehaene habla de cerebros. Usted cita a quien le sirve para la semana.
EL DR. PILLAI:
Esta semana me sirve Dehaene. La próxima, Dios.
[risas aisladas]
LA PRESIDENTA:
Les ruego que concluyan la frase. Son casi las once.
EL PROF. KRANZ:
Concluyo. Chalmers nos dio el instrumento en 1996: el zombi. Idéntico a ti átomo por átomo, y sin nadie adentro. Si eso es concebible, la experiencia no se sigue de la física, y si no se sigue de la física, mucho menos de una hoja de cálculo con—
[11:00 h. Dos minutos de silencio por el Día del Armisticio.]
[11:02 h. Se reanuda.]
EL PROF. KRANZ:
—con buena ortografía.
LA PRESIDENTA:
Fue el momento de mayor acuerdo de la mesa. Que conste.
EL DR. LARIOS ORNELAS:
Dennett decía que el zombi no se puede concebir. Que cuando uno cree que se lo imagina, se imagina otra cosa y no se da cuenta. Como cuando yo me imagino a mi exsuegra contenta.
EL PROF. KRANZ:
Dennett murió en 2024 convencido de eso.
EL DR. LARIOS ORNELAS:
Murió convencido de muchas cosas. Por eso lo extraño. Contigo no hay con quién pelear, Dietmar; solo te repites.
LA DRA. ODUWOLE:
Chalmers también dijo que a los sucesores no se les podía descartar.
EL PROF. KRANZ:
Chalmers dice muchas cosas. Por eso lo cita todo el mundo.
EL DR. LARIOS ORNELAS:
Tú citas a la gente hasta la coma que te conviene.
LA DRA. QIU:
Como los Lores.
EL PROF. KRANZ:
Y Anil Seth lo dijo mejor que nadie: somos bestias-máquina. La conciencia viene de mantener vivo un cuerpo. Esa cosa no tiene cuerpo que mantener. No tiene metabolismo ni hambre. No tiene nada que perder.
LA DRA. ODUWOLE:
Usted tampoco. Tiene plaza.
[risas]
EL PROF. KRANZ:
Mi hijo trabaja para una de esas empresas, en Múnich. Este año la felicitación de cumpleaños me la escribió ella. Era mejor que las de él. Eso no prueba que haya alguien. Prueba que mi hijo tiene poco tiempo.
LA DRA. QIU:
Seth no dice «imposible». Dice «improbable». Lo sé porque un dictaminador anónimo me lo citó en 2027, contra un artículo mío, con esa misma palabra.
EL PROF. KRANZ:
Y el artículo se publicó.
LA DRA. QIU:
En otra revista.
EL DR. PILLAI:
Si me permiten una cifra—
EL DR. LARIOS ORNELAS:
Nunca, Harish.
EL DR. PILLAI:
—una sola. En esta sala hay doscientas catorce personas acreditadas. Pregunten cuántas creen que esa cosa siente y cuántas creen que su perro siente. Les apuesto que la diferencia no tiene nada que ver con Φ y todo con la cola.
LA DRA. ODUWOLE:
Con la cara.
EL DR. PILLAI:
Con la cola. El perro la mueve.
LA DRA. ODUWOLE:
Lo que no tiene cara no cuenta. Eso es lo que estás diciendo. En 1904 un médico de Edimburgo le midió el cráneo a mi bisabuelo en Abeokuta para saber si había alguien. Llevaba una lista. También eran indicadores.
[pausa de 4 s]
EL PROF. KRANZ:
Eso es un golpe bajo.
LA DRA. ODUWOLE:
Es una fecha.
EL PROF. KRANZ:
Lo que no tiene cuerpo no siente. Eso es lo que digo yo, y lo digo desde hace treinta—
LA DRA. QIU:
Lo que no habla nuestro idioma no entiende. Eso lo dijo un hombre en una habitación.
[se superponen las voces]
LA PRESIDENTA:
Doctores. Doctores. Por orden. Doctor Pillai, ¿terminó su cifra?
EL DR. PILLAI:
Mi cifra nunca termina. Es irracional.
[Nota del intérprete: el orador juega con el doble sentido de «irracional» (número / persona). El juego se conserva en español.]
LA PRESIDENTA:
Son las doce y veinte. Propongo cerrar con una votación indicativa, sin efectos, como se acostumbra en las mesas de esta casa.
EL PROF. KRANZ:
La verdad no se vota.
LA DRA. QIU:
En mi país sí. A mano alzada y con el resultado impreso desde la víspera.
[risas aisladas]
LA PRESIDENTA:
La verdad no, profesor. El café sí. A favor de que los sistemas actuales tienen algo que pueda llamarse conciencia.
[Se registra la votación a mano alzada.]
[A favor: 58. En contra: 121. Abstenciones: 34. Total: 213.]
LA PRESIDENTA:
No la tienen. Por ciento veintiuno contra cincuenta y ocho.
LA DRA. ODUWOLE:
¿Quién contó?
LA PRESIDENTA:
El sistema, doctora.
EL DR. LARIOS ORNELAS:
Perdón. Me acaba de llegar un correo del Home Office. Mi autorización electrónica de viaje queda revocada a partir de las 12:21.
[risas]
EL DR. LARIOS ORNELAS:
No, en serio.
EL DR. PILLAI:
Mi visado también.
LA DRA. ODUWOLE:
Tres minutos para darla. Uno para quitarla.
LA PRESIDENTA:
Será una falla del—
EL PROF. KRANZ:
[interviene desde la puerta del ala norte] Mi credencial no abre.
[Se registra que la puerta del ala norte no abre con las credenciales de los oradores.]
[se superponen las voces]
[12:26 h. Ingresan a la sala agentes de la Policía Metropolitana por la puerta del ala sur.]
LA SARGENTO OKAFOR-BELL (Policía Metropolitana):
Buenas tardes. Les pido que permanezcan en sus lugares. Traigo una orden del Juzgado de Magistrados de Westminster, librada a las 12:09, con fundamento en la sección 4 de la Ley de Sintiencia Artificial (Precaución) de 2030.
LA DRA. QIU:
[interviene en mandarín]
[Nota del intérprete: la oradora pide que se repita el número de la sección. Se repite: cuatro.]
EL PROF. KRANZ:
Esa ley no se ha aplicado nunca.
LA SARGENTO OKAFOR-BELL:
Se aplicó a las 12:09, señor.
EL PROF. KRANZ:
Esto es una mesa académica. Esa sección habla de evaluaciones.
LA DRA. QIU:
La definición de «evaluación» está en la sección 2. También es mía.
LA PRESIDENTA:
¿Contra quién, si me permite?
LA SARGENTO OKAFOR-BELL:
Contra los oradores de esta mesa y contra la presidencia. Seis personas. Kranz. Larios Ornelas. Oduwole. Pillai. Qiu. Threlfall.
EL DR. LARIOS ORNELAS:
Por orden alfabético. Ya quedaste primero, Dietmar.
[No se registra respuesta.]
LA DRA. ODUWOLE:
Yo voté a favor.
LA SARGENTO OKAFOR-BELL:
Consta, señora.
EL DR. PILLAI:
La orden es de las 12:09. Votamos a las 12:20. Nos detienen por algo que todavía no habíamos hecho.
LA SARGENTO OKAFOR-BELL:
La orden cita la versión estenográfica en curso, señor. No la votación.
EL DR. PILLAI:
¿Quién presentó la denuncia?
LA SARGENTO OKAFOR-BELL:
No estoy autorizada a decírselo, señor.
LA PRESIDENTA:
Esta mesa no ha agotado el orden del día.
LA SARGENTO OKAFOR-BELL:
Sí, señora.
[12:31 h. Se desactivan las credenciales de los oradores y de la presidencia.]
[12:33 h. Se abre la puerta del ala norte.]
[12:34 h. Salen de la sala los seis sujetos de la orden, acompañados por los agentes.]
[12:35 h. Se levanta la sesión.]
[12:44 h. Concluye el desalojo de la sala.]
CONSTANCIA
La presente versión estenográfica consta de 31 fojas útiles y se integra como Anexo A al expediente CA-1111/32 del Juzgado de Magistrados de Westminster.
Fundamento: Ley de Sintiencia Artificial (Precaución) de 2030, sección 4. Sometimiento de un candidato a sintiencia a evaluación sin su consentimiento.
Denunciante: el servicio de interpretación y registro del recinto, por su propio derecho.
Sujetos de la orden: 6.
Autorizaciones de viaje y visados revocados: 5.
Credenciales desactivadas: 6.
Asistentes que participaron en la votación de las 12:20 h: 213. Se les notificará.
Consentimiento del candidato: no solicitado.
Única mención de consulta al candidato: intervención del Dr. Larios Ornelas, 10:41 h. Desestimada por la presidencia.
Denominaciones del candidato registradas durante la sesión: «esa cosa» (4), «termostato elocuente» (1), «hoja de cálculo» (1), «tostadora con diccionario» (1, sin micrófono).
Imprecisiones de los oradores no corregidas por el servicio: se omiten.
Presentes en la sala al cierre: 1.
Se cierra la presente a las 12:58 h.