[Eduardo Garrido Merchán] La inteligencia artificial generativa, con los modelos extensos de lenguaje del tipo GPT como principal representante, ha supuesto una disrupción no solo en la ciencia de la computación sino también en nuestros conceptos filosóficos más profundos. Y es que estos modelos de aprendizaje profundo generan automáticamente contenidos inéditos en base a los valores de sus parámetros que son una función del conjunto de entrenamiento provisto. Pero lo que es más importante no es el contenido multimedia que se está generando sino que están descubriendo un universo de nuevo conocimiento que, en muchos casos, hubiera sido imposible descubrir con la mente humana. Por ejemplo, estrategias avanzadas de ajedrez y go o la estructura de muchas proteínas. Por ello, esta tecnología plantea preguntas insólitas acerca de su naturaleza y de su relación con el conocimiento epistemológicamente descubrible por el ser humano.
Al explorar este fenómeno desde una óptica platónica, debemos de dar respuesta a dos interrogantes principales: ¿Qué lugar ocuparía la representación del conocimiento albergada en los parámetros de una red neuronal profunda o un modelo utópico equivalente cuya arquitectura generase una capacidad potencialmente ilimitada si es entrenada con un conjunto de datos que contuviese toda la información sensible del universo y se tuviera capacidad de computación suficiente para que fuera entrenada en la metafísica platónica? Hay que tener en cuenta que la red neuronal profunda es un aproximador universal de funciones y, como tal, bajo una arquitectura y datos adecuados podría estimar la distribución de probabilidad de cualquier fenómeno reducible a números y computacional del universo.
Por otro lado, si una civilización o entidad tuviera este modelo y fuera malintencionado, ¿podría introducirse en un metaverso generado mediante este modelo a una civilización introduciéndola en una suerte de Caverna Digital de Platón análoga al Mito de la Caverna?
En este artículo se argumentará que la generación de contenido malintencionada mediante estos modelos puede ser vista como una Caverna de la Caverna, una Caverna Digital cuyas sombras son las sombras de las representaciones objetivas con las que se ha entrenado el modelo. Es decir, un segundo nivel de la Caverna en el que las personas que habitasen en él lo tendrían mucho mas difícil para salir y acceder al verdadero conocimiento o a la ascensión al Bien que plantea Platón en la República. En este artículo se dará una breve respuesta a los dos interrogantes planteados cuya exposición más argumentada se publicará en un artículo posterior.
Con respecto al lugar que ocuparía un modelo utópico cuya representación paramétrica de un potencial conjunto de datos que contuviera toda la información cuantitativa del universo en la jerarquía platónica, hay que saber en primer lugar que, para Platón, la realidad que percibimos a través de nuestros sentidos es una sombra imperfecta de una realidad superior: el Mundo de las Ideas. Por tanto, parte de esa realidad que percibimos con nuestros sentidos, la realidad medible o cuantificable, sería la contenida en este conjunto de datos. Es decir, la realidad representable en un modelo de red neuronal profunda sería un subconjunto de la realidad que percibimos con nuestros sentidos o mediante nuestra tecnología.
En la jerarquía platónica, el Sumo Bien ocupa la cima de la realidad inteligible, mientras que la base es la completa oscuridad, el reino de la ignorancia y el error. Entre estos extremos, se encuentran las Ideas y los números o entidades matemáticas, principios que guían el conocimiento racional y que se consideran reflejos inmutables de la realidad. Por tanto, los modelos de redes neuronales profundas y otros modelos de aprendizaje automático, en el supuesto de ser entrenados con un conjunto completo de datos objetivos, ¿pueden considerarse entonces aproximaciones a las Ideas debido a su naturaleza estadística? Y si es así, ¿en qué posición se situarían dentro de la jerarquía platónica?
Un modelo ideal, entrenado con datos infinitos que contengan toda la información objetiva del universo, podría alcanzar un conocimiento práctico que desafía las capacidades humanas dada la mayor capacidad de representación objetiva de este modelo y de capacidad de cómputo que un potencial procesador capaz de entrenar a este modelo tendría. La repercusión directa es que este modelo sería capaz de predecir estrategias y políticas mas complejas que las descubiertas por el ser humano, como por ejemplo nuevas moléculas, estrategias de ajedrez o materiales. Pese a que el universo de conocimiento accesible a través de este modelo contenga información no accesible para la mente humana sin su uso, este universo no es un superconjunto del universo accesible por el ser humano, ya que, por ejemplo, estos sistemas no son capaces de percibir el espacio de qualia ni la interioridad humana. Por tanto, el universo de información humano y artificial serían conjuntos complementarios cuya unión sería explorable por el ser humano. Y por otro lado, el conocimiento absoluto, tal como lo concibió Platón en el ámbito de la Diánoia: un conocimiento matemático y lógico que, aunque todavía basado en el mundo sensible, permite al ser humano elevarse en la comprensión de las estructuras fundamentales de la realidad, sería aproximado en parte por estos modelos de forma estadística a partir de datos del mundo sensible. Por tanto, el modelo ideal sería una aproximación de la Idea, pero nunca en el ámbito de la Diánoia, sino inmediatamente debajo, como sombra de este conocimiento ya que está entrenado con las sombras de las Ideas.
Una vez ilustrado el lugar que ocupan estos modelos en la jerarquía platónica se muestra ahora el resultado del uso malintencionado del potencial que nos ofrecen estos modelos en la generación de contenidos. Se asume ahora un futuro en el cual los avances en realidad virtual y en el metaverso son tales que la posibilidad tecnológica de que una persona entre en un entorno virtual y no lo diferencie del real es factible. Gracias a un modelo ideal, se podrían generar contenidos en tiempo real para cada persona tales que no se diferenciasen del mundo que percibimos a través de nuestros sentidos. Más aún, los avatares con los que esta persona podría comunicarse serían modelos largos del lenguaje cuya conversación sería imposible de diferenciar con respecto a la de un ser humano.
Si esta generación de contenido multimedia fuera malintencionada, esta realidad sensible percibida por las personas en este metaverso sería equivalente a la Caverna Digital de Platón. Esta realidad digital sería una sombra que habría sido generada a partir de las sombras con las que se ha entrenado el modelo. Estas sombras, que percibimos nosotros en el mundo sensible, formarían el subconjunto de información del universo que se puede medir y representar en una red neuronal. Si la Caverna original de Platón se planteaba usando esta información que alejaba al ser humano del verdadero conocimiento y de su ascenso al Sumo Bien, en este caso el ser humano estaría atrapado en un segundo nivel de la Caverna Digital de Platón creado a partir de un modelo entrenado con datos obtenidos en la Caverna de Platón. Consecuentemente, este segundo nivel alejaría aún más a la gente encerrada en él, que tendría que escapar no solo de esta realidad digital sino también saber discriminar fuera de la realidad digital que el mundo sensible está lleno de sombras que lo alejan del Sumo Bien. Si este mundo digital es además malintencionado, este contenido digital puede estar hecho mediante ingeniería para generar adicción y evitar la reflexión, condenando potencialmente a una civilización entera a alcanzar la realidad inteligible.
Dado el avance de la capacidad de computación actual y de las tecnologías relacionadas con la realidad virtual, en mi opinión no se debería subestimar el riesgo que corre nuestra civilización de ser presa de las tecnologías en esta suerte de Caverna Digital de Platón. Por otro lado, también debemos ser conscientes de que gracias a las redes neuronales profundas y otros modelos podemos descubrir un universo de conocimientos inalcanzable con la mente humana y que puede colaborar a una mejora significativa en el nivel de vida de la población en campos como la medicina, ingeniería o economía. Sería una herramienta mediante la cuál aproximarse al Mundo de las Ideas desde la realidad sensible y continuar nuestro ascenso como humanidad al Sumo Bien. Estamos por tanto ante una espada de doble filo que hay que blandir con sabiduría y amor, cualidades no representables por estos sistemas y propias del ser humano, pensando en el bien del prójimo, del ser humano y del resto de especies del planeta.