La locura de la 'conciencia de máquina'

Nov 11, 2023

¿La conciencia sólo surge en los seres biológicos? O, ¿es posible que una computadora que observa, interactúa y representa su propio estado interno para sí misma también pueda dar lugar a la conciencia? Estas fueron algunas de las preguntas planteadas a Bernardo Kastrup, Susan Schneider y Donald Hoffman en un reciente debate para el IAI, 'Consciousness in the machine'. Bernardo Kastrup reflexiona sobre el debate y su desencuentro con Susan Schneider.

Hace poco participé en un debate organizado por el IAI, con Donald Hoffman y Susan Schneider, junto a usted, sobre la cuestión de si las computadoras de silicio que ejecutan software de inteligencia artificial (IA) alguna vez serán conscientes. Como idealista metafísico, creo que la conciencia no es generada por ningún sustrato, biológico o de otro tipo, porque es primaria. Pero la vida interna consciente privada, aparentemente separada del resto de la naturaleza y delineada por los límites de una entidad física, es claramente algo que ha surgido junto con la biología. Entonces, para mí, la pregunta se traduce como: ¿puede existir potencialmente la conciencia privada en asociación con las computadoras de silicio?

Esta pregunta está muy cerca de mi corazón, porque he sido ingeniero informático durante más tiempo que filósofo. Para mí, la hipótesis de la 'IA consciente' es tan plausible como la del Monstruo de Espagueti Volador (FSM). Reconozco que no puedo refutar categóricamente la hipótesis, por la misma razón que no puedo refutar categóricamente el FSM. Pero al igual que el FSM, no creo que tengamos ninguna buena razón para tomarnos la hipótesis en serio. Este es el por qué.

LECTURAS SUGERIDAS La gran tecnología no quiere que la IA se vuelva consciente Por Susan Schneider

Puedo ejecutar una simulación detallada de la función renal, exquisitamente precisa hasta el nivel molecular, en el mismo iMac que estoy usando para escribir estas palabras. Pero ninguna persona en su sano juicio pensará que mi iMac podría orinar repentinamente en mi escritorio al ejecutar la simulación, sin importar cuán precisa sea esta última. Después de todo, una simulación de la función renal no es función renal; es una simulación del mismo, inconmensurable con la cosa simulada. Todos comprendemos sin dificultad esta diferencia en el caso de la producción de orina. Pero cuando se trata de la conciencia, algunos abandonan repentinamente su capacidad de razonamiento crítico: piensan que una simulación de los patrones de flujo de información en un cerebro humano podría volverse consciente como el cerebro humano. Que peculiar

¿De dónde viene este abandono de un sano sentido de plausibilidad? Aquellos que toman en serio la hipótesis de la IA consciente lo hacen basándose en una noción terriblemente sesgada de isomorfismo, una correspondencia de forma o similitud, entre la forma en que los humanos piensan y las computadoras de IA procesan los datos. Sin embargo, para encontrar esa similitud, uno debe dar varios pasos de abstracción alejándose de la realidad empírica concreta. Después de todo, si coloca un cerebro humano real y una computadora de silicio real abiertos sobre una mesa frente a usted, se sentirá abrumado por lo diferentes que son, estructural y funcionalmente. Un cerebro húmedo se basa en carbono, quema ATP para obtener energía, funciona a través del metabolismo, procesa datos a través de la liberación de neurotransmisores, etc. Una computadora seca, por otro lado, se basa en silicio, usa un potencial eléctrico diferencial para obtener energía, funciona moviendo cargas eléctricas, procesa datos abriendo y cerrando interruptores eléctricos llamados transistores, etc.

El vago isomorfismo entre las computadoras de IA y los cerebros biológicos solo se encuentra en niveles muy altos de abstracción puramente conceptual, bastante desconectados de la realidad empírica concreta, en los que se comparan patrones incorpóreos de flujo de información. Por lo tanto, para creer en la 'IA consciente', uno debe descartar arbitrariamente las abrumadoras diferencias en niveles más concretos y luego, de manera igualmente arbitraria, elegir tener en cuenta solo un alto nivel de abstracción muy específico donde se pueden encontrar algunas vagas similitudes. ¿Se puede describir esto como algo más que una ilusión?

___

Al apelar a la complejidad, uno simplemente se dedica a agitar furiosamente las manos y esconderse detrás del pináculo de la vaguedad.

___

Verá, todo lo que hace una computadora puede, en principio, hacerse con tuberías, válvulas de presión y agua comunes y corrientes. Las tuberías cumplen la función de conductos eléctricos, o trazas; las válvulas de presión juegan el papel de interruptores o transistores; y el agua juega el papel de la electricidad. La Ley de Ohm, la regla fundamental que determina el comportamiento de los circuitos eléctricos, mapea uno a uno las relaciones de flujo y presión del agua. De hecho, la razón por la que construimos computadoras con metal, silicio y electricidad, en lugar de tuberías de PVC y agua, es que las primeras son mucho, mucho más pequeñas y más baratas de fabricar. Los chips de computadora actuales tienen decenas de miles de millones de transistores y un número aún mayor de huellas individuales. ¿Puede imaginar el tamaño y el costo de una computadora basada en agua que comprenda decenas de miles de millones de tuberías y válvulas de presión? ¿Te imaginas la cantidad de energía necesaria para bombear agua a través de él? No podría permitírselo ni llevarlo en el bolsillo. Esta es la razón por la que calculamos con electricidad, en lugar de agua. Más allá de esto, no hay nada fundamentalmente diferente entre una computadora basada en agua con válvula de tubería y una electrónica, desde la perspectiva de la computación. La electricidad no es un sustrato mágico para la computación, sino simplemente conveniente.

Ahora bien, ¿cree que tenemos buenas razones para creer que un sistema hecho de tuberías, válvulas y agua, como el sistema de saneamiento de su hogar, podría volverse consciente si hay suficientes tuberías y válvulas ensambladas de la manera correcta? Si no, entonces lo mismo ocurre con las computadoras de IA. La única diferencia entre el sistema de saneamiento de su hogar y mi computadora imaginaria basada en agua es la complejidad: cuántas tuberías y válvulas lo constituyen y cómo están interconectadas, no de tipo o esencia. De hecho, el sistema de saneamiento doméstico típico implementa la funcionalidad de alrededor de 5 a 10 transistores.

Algunos creen que la complejidad es la clave aquí. Sostendrán que, aunque un simple sistema de saneamiento doméstico es inconsciente, si sigues añadiéndole tuberías y válvulas, en algún momento el sistema se volverá consciente. Pero esto es pensamiento mágico, a menos que uno pueda explicar cómo, de manera explícita, lógica y precisa, aunque solo sea en principio, la mera adición de más de las mismas tuberías y válvulas puede permitir la aparición de una vida interior consciente privada cuando no había ninguna antes. . Incluso los escenarios de integración de información de moda en estos días no logran nada en este sentido, ya que son meras observaciones, no explicaciones. Entonces, al apelar a la complejidad, uno simplemente está agitando furiosamente las manos y escondiéndose detrás del pináculo de la vaguedad.

VISUALIZACIÓN SUGERIDA El engaño de la IA Con Mazzita Chirimuta

Otros escuchan palabras de moda como "computación neuromórfica" y piensan que algún sustrato computacional fundamentalmente nuevo y de vanguardia, más parecido al cerebro humano que a las computadoras tradicionales, puede ofrecer un avance realista hacia la "IA consciente" en el futuro. Pero esto también, alentado por el marketing corporativo sensacionalista, refleja una profunda falta de comprensión de cómo funcionan estas cosas.

No existe una diferencia fundamental entre su antigua PC doméstica y las complejas máquinas de IA; ni siquiera las proyectadas para el futuro. Los algoritmos de IA se ejecutan en núcleos de procesamiento de información paralelos del tipo que hemos tenido en las tarjetas gráficas de nuestra PC durante décadas; simplemente usan más núcleos y más rápidos. Es difícil ver qué milagro podría hacer que más y más rápidos componentes del mismo tipo condujeran al salto extraordinario e intrínsecamente discontinuo de la inconsciencia a la conciencia. Y el software tampoco lo hará: toda la charla sobre 'neuronas artificiales', si entiende lo que realmente significa, es solo una forma abreviada de moda para las operaciones vectoriales estándar que hemos estado haciendo durante siglos.

En el nivel fundamental en cuestión aquí, incluso las computadoras neuromórficas no implican ninguna diferencia de tipo. También son dispositivos semiconductores de óxido de metal (MOS) como los de su teléfono, que mueven cargas eléctricas como sus predecesores; deben ser así, para seguir siendo compatibles con la infraestructura y los conocimientos técnicos de fabricación existentes y exorbitantemente caros. Que los procesadores neuromórficos sean analógicos, en lugar de digitales, tampoco ayuda: las computadoras digitales mueven cargas al igual que sus contrapartes analógicas; la única diferencia está en cómo se interpreta la información que surge de esos movimientos de carga: los microinterruptores en las computadoras digitales aplican un umbral a la cantidad de carga antes de decidir su significado, mientras que las computadoras analógicas no lo hacen. Pero más allá de este paso interpretativo, trivial a los efectos del punto en disputa, tanto las computadoras analógicas como las digitales encarnan esencialmente el mismo sustrato. Si mover cargas eléctricas no hace que tu teléfono sea consciente hoy, tampoco lo hará en el futuro.

___

Algunos lectores pueden pensar que es impropio de mi parte criticar tanto la mera hipótesis o discusión sobre la 'IA consciente'. Sin embargo, a veces, es imperativo gritar '¡locura!'

___

El pensamiento mágico completamente desconectado de la razón parece prevalecer entre aquellos que venden 'IA consciente'. He escuchado el siguiente 'argumento' presentado por personas educadas e inteligentes: "Si los cerebros son conscientes, ¿por qué las computadoras no pueden serlo también?" A esto respondo con una pregunta mía igualmente retórica: si las aves pueden volar agitando las extremidades superiores, ¿por qué los humanos no pueden volar agitando los brazos?

Durante el debate del IAI, Susan Schneider, en uno de esos movimientos retóricos que suenan inteligentes en el lenguaje pero que carecen de fuerza cuando se miran más de cerca, le dio a la analogía anterior un giro diferente: señaló que, si los hermanos Wright hubieran creído que solo los pájaros pudieran volar, no se habrían molestado en tratar de construir un avión. Su punto era que un fenómeno, en este caso, el vuelo, puede tener múltiples instancias en la naturaleza, en diferentes sustratos, como aves y aviones. Ergo, o eso es lo que se piensa, aunque las computadoras de silicio son diferentes de la biología, en principio ambas podrían instanciar el fenómeno de la vida interna consciente privada.

La validez de su punto es meramente lógica: de hecho, no estamos lógicamente obligados a limitar las instanciaciones de la conciencia privada a un sustrato biológico únicamente. Pero esto significa casi nada, ya que hay muchas hipótesis sin sentido que también son lógicamente coherentes, como el Monstruo de Espagueti Volador: es lógica e incluso físicamente sensato imaginar que hay un monstruo tallarines flotando en una dimensión superior de el espacio, invisible para nosotros, los habitantes de las llanuras, que mueve los planetas alrededor de sus órbitas con sus invisibles apéndices tallarineses. La evidencia es consistente con esta hipótesis, ya que los planetas se mueven alrededor de sus órbitas, aunque no se les imparte fuerza a través del contacto físico visible. Aún más fuerte, la hipótesis parece explicar nuestras observaciones del movimiento planetario sin tener que apelar a las curvaturas abstractas del espacio-tiempo. Entonces, ¿deberíamos tomar ahora en serio al Monstruo Tallarinesso?

Aquí hay otra hipótesis lógica y físicamente coherente: puede haber una tetera del siglo XIX en la órbita de Saturno en este momento. Los extraterrestres pueden haber venido a la Tierra en el siglo XIX, robaron subrepticiamente la tetera del comedor de una anciana desprevenida y luego la tiraron en las cercanías de Saturno en su camino de regreso a casa, después de lo cual la desafortunada tetera fue capturada por el campo de gravedad de Saturno. . ¿Deberíamos tomar nuestra pequeña luna de porcelana tan en serio como algunos toman hoy en día la 'IA consciente'?

LECTURAS SUGERIDAS La IA de Google no es sensible. Ni siquiera un poco Por Gary Marcus

Obviamente no, porque lo que importa aquí no es la posibilidad lógica, ni siquiera física, sino la plausibilidad natural. En otras palabras, lo que tenemos que preguntarnos no es qué es lógicamente posible o qué no se puede refutar categóricamente —hay una cantidad infinita de tonterías que no se pueden refutar categóricamente— sino qué tenemos buenas razones para considerar como hipótesis. ¿Tenemos buenas razones para creer que una computadora de silicio que ejecuta un software de inteligencia artificial podría ser consciente como un cerebro vivo? Ninguno en absoluto. Todo el asunto es una farsa y representa una indulgencia preocupante en la fantasía y el pensamiento mágico de un tipo que, desafortunadamente, ha sido demasiado común a lo largo de la historia humana, particularmente en contextos religiosos.

Sería comprensible que reaccionara a mi afirmación anterior apelando a la autoridad: hay muchos científicos informáticos altamente educados que no solo se toman en serio la 'IA consciente', sino que incluso se ganan la vida hablando de ella. ¿Significa esto que pueden estar en algo aquí, incluso si no entendemos muy bien cómo?

Lo que la mayoría de la gente no se da cuenta es que muchos, incluso me atrevo a decir que la gran mayoría de los científicos informáticos no son expertos en computadoras; son simplemente usuarios avanzados de computadoras, con una comprensión vaga y muy limitada de lo que sucede debajo del capó. De hecho, históricamente hablando, la informática es una rama de la lógica matemática, no de la ingeniería. Generaciones de científicos informáticos ahora han terminado su formación sabiendo cómo usar una jerarquía voluminosa de bibliotecas de software y herramientas preconstruidas, destinadas precisamente a aislarlas de los detalles sucios que llamamos realidad, pero sin tener la menor idea de cómo diseñar. y construir una computadora. Piensan completamente en un ámbito de abstracción conceptual, habilitado por herramientas y desconectado de la realidad (eléctrica) de los circuitos integrados y el hardware. Desde su perspectiva, dado que la CPU, la Unidad Central de Procesamiento, el 'cerebro' de la computadora, es una misteriosa caja negra alimentada por la igualmente misteriosa magia de la electricidad, es fácil proyectar todas sus fantasías en ella. Así llenan el vacío dejado por su falta de comprensión con ilusiones mágicas. La psicología aquí es francamente banal.

Aquellos que saben cómo construir no solo una CPU sino una computadora como un todo, como Federico Faggin, padre del microprocesador e inventor de la tecnología de puerta de silicio MOS, tienden a descartar la moda de la 'IA consciente' tal como lo hago yo. , porque entienden que una computadora es un autómata, un mero mecanismo, no diferente en especie al sistema de saneamiento de su hogar. Y sí, estoy seguro de que hay excepciones notables a esta afirmación, ya que fantasear desquiciadamente es una condición que no escatima en datos demográficos. Pero esas son las excepciones proverbiales que confirman la regla, ya que los doctorados en abstracción conceptual están lejos de ser doctores en realidad.

___

El vago isomorfismo entre las computadoras de IA y los cerebros biológicos solo se encuentra en niveles muy altos de abstracción puramente conceptual, bastante desconectados de la realidad empírica concreta, en los que se comparan patrones incorpóreos de flujo de información.

___

Algunos lectores pueden pensar que es impropio de mi parte criticar tanto la mera hipótesis o discusión sobre la 'IA consciente'. Sin embargo, a veces, es imperativo gritar '¡locura!' cuando la locura comienza a infiltrarse en nuestra cultura de una manera aparentemente inocente. La mentalidad abierta sin control y la corrección política otorgan una verosimilitud indebida a las tonterías. Y una vez que esa puerta está abierta, ¿dónde termina? ¿Cuál será el próximo disparate escandaloso que tendremos que debatir con la cara seria y la mano pensativa en la barbilla, a la vista de nuestros hijos?

Así que permítanme tratar de ser lo más claro posible: no, no tenemos ninguna buena razón para tomar en serio la 'IA consciente'. Esta es una fantasía no respaldada por la razón o la evidencia; un mero artefacto del estado caótico de nuestra filosofía, en el que la conciencia misma —el único dato empírico de la naturaleza— se ha convertido de algún modo en una anomalía.

Entretener a la 'IA consciente' es contraproducente; legitima el gasto de recursos humanos escasos, incluido el dinero de los contribuyentes, en problemas que no existen, como la ética y los derechos de las entidades de IA. Pone en peligro la cordura de nuestra cultura al distorsionar nuestro sentido natural de plausibilidad y confundir la realidad con la (mala) ficción. Las IA son herramientas complejas, como una planta de energía nuclear es una herramienta compleja. Deberíamos tomar precauciones de seguridad sobre las IA del mismo modo que tomamos precauciones de seguridad sobre las plantas de energía nuclear, sin tener discusiones éticas sobre los derechos de las plantas de energía. Cualquier cosa más allá de esto es simplemente una tontería fantástica y debe ser tratada como tal.

¿Quieres escuchar el otro lado del argumento? Lea la respuesta de Susan Schneider al artículo de Bernardo Kastrupaquí.

Inscribirsepara obtener acceso exclusivo.

Obtenga acceso ilimitado a miles de artículos y videos

Empiza la prueba gratuita

¿Ya eres suscriptor? Acceso

Iniciar sesiónpara publicar comentarios oúnete ahora (solo toma un momento). Don't have an account? Sign in with Facebook, Twitter or Google to get started: -->