{"id":8821,"date":"2024-12-02T08:00:32","date_gmt":"2024-12-02T07:00:32","guid":{"rendered":"https:\/\/blogs.comillas.edu\/FronterasCTR\/?p=8821"},"modified":"2024-12-03T12:33:29","modified_gmt":"2024-12-03T11:33:29","slug":"el-mito-de-la-caverna-digital-de-platon","status":"publish","type":"post","link":"https:\/\/blogs.comillas.edu\/FronterasCTR\/?p=8821","title":{"rendered":"El Mito de la Caverna Digital de Plat\u00f3n"},"content":{"rendered":"

[Eduardo Garrido Merch\u00e1n] La inteligencia artificial generativa, con los modelos extensos de lenguaje del tipo GPT como principal representante, ha supuesto una disrupci\u00f3n no solo en la ciencia de la computaci\u00f3n sino tambi\u00e9n en nuestros conceptos filos\u00f3ficos m\u00e1s profundos. Y es que estos modelos de aprendizaje profundo generan autom\u00e1ticamente contenidos in\u00e9ditos en base a los valores de sus par\u00e1metros que son una funci\u00f3n del conjunto de entrenamiento provisto. Pero lo que es m\u00e1s importante no es el contenido multimedia que se est\u00e1 generando sino que est\u00e1n descubriendo un universo de nuevo conocimiento que, en muchos casos, hubiera sido imposible descubrir con la mente humana. Por ejemplo, estrategias avanzadas de ajedrez y go o la estructura de muchas prote\u00ednas. <\/strong>Por ello, esta tecnolog\u00eda plantea preguntas ins\u00f3litas acerca de su naturaleza y de su relaci\u00f3n con el conocimiento epistemol\u00f3gicamente descubrible por el ser humano. <\/strong><\/p>\n

Al explorar este fen\u00f3meno desde una \u00f3ptica plat\u00f3nica, debemos de dar respuesta a dos interrogantes principales: \u00bfQu\u00e9 lugar ocupar\u00eda la representaci\u00f3n del conocimiento albergada en los par\u00e1metros de una red neuronal profunda o un modelo ut\u00f3pico equivalente cuya arquitectura generase una capacidad potencialmente ilimitada si es entrenada con un conjunto de datos que contuviese toda la informaci\u00f3n sensible del universo y se tuviera capacidad de computaci\u00f3n suficiente para que fuera entrenada en la metaf\u00edsica plat\u00f3nica? Hay que tener en cuenta que la red neuronal profunda es un aproximador universal de funciones y, como tal, bajo una arquitectura y datos adecuados podr\u00eda estimar la distribuci\u00f3n de probabilidad de cualquier fen\u00f3meno reducible a n\u00fameros y computacional del universo. <\/strong><\/p>\n

Por otro lado, si una civilizaci\u00f3n o entidad tuviera este modelo y fuera malintencionado, \u00bfpodr\u00eda introducirse en un metaverso generado mediante este modelo a una civilizaci\u00f3n introduci\u00e9ndola en una suerte de Caverna Digital de Plat\u00f3n an\u00e1loga al Mito de la Caverna? <\/strong><\/p>\n

En este art\u00edculo se argumentar\u00e1 que la generaci\u00f3n de contenido malintencionada mediante estos modelos puede ser vista como una Caverna de la Caverna, una Caverna Digital cuyas sombras son las sombras de las representaciones objetivas con las que se ha entrenado el modelo. Es decir, un segundo nivel de la Caverna en el que las personas que habitasen en \u00e9l lo tendr\u00edan mucho mas dif\u00edcil para salir y acceder al verdadero conocimiento o a la ascensi\u00f3n al Bien que plantea Plat\u00f3n en la Rep\u00fablica. En este art\u00edculo se dar\u00e1 una breve respuesta a los dos interrogantes planteados cuya exposici\u00f3n m\u00e1s argumentada se publicar\u00e1 en un art\u00edculo posterior.<\/strong><\/p>\n

Con respecto al lugar que ocupar\u00eda un modelo ut\u00f3pico cuya representaci\u00f3n param\u00e9trica de un potencial conjunto de datos que contuviera toda la informaci\u00f3n cuantitativa del universo en la jerarqu\u00eda plat\u00f3nica, hay que saber en primer lugar que, para Plat\u00f3n, la realidad que percibimos a trav\u00e9s de nuestros sentidos es una sombra imperfecta de una realidad superior: el Mundo de las Ideas. Por tanto, parte de esa realidad que percibimos con nuestros sentidos, la realidad medible o cuantificable, ser\u00eda la contenida en este conjunto de datos. Es decir, la realidad representable en un modelo de red neuronal profunda ser\u00eda un subconjunto de la realidad que percibimos con nuestros sentidos o mediante nuestra tecnolog\u00eda.<\/p>\n

En la jerarqu\u00eda plat\u00f3nica, el Sumo Bien ocupa la cima de la realidad inteligible, mientras que la base es la completa oscuridad, el reino de la ignorancia y el error. Entre estos extremos, se encuentran las Ideas y los n\u00fameros o entidades matem\u00e1ticas, principios que gu\u00edan el conocimiento racional y que se consideran reflejos inmutables de la realidad. Por tanto, los modelos de redes neuronales profundas y otros modelos de aprendizaje autom\u00e1tico, en el supuesto de ser entrenados con un conjunto completo de datos objetivos, \u00bfpueden considerarse entonces aproximaciones a las Ideas debido a su naturaleza estad\u00edstica? Y si es as\u00ed, \u00bfen qu\u00e9 posici\u00f3n se situar\u00edan dentro de la jerarqu\u00eda plat\u00f3nica?<\/p>\n

Un modelo ideal, entrenado con datos infinitos que contengan toda la informaci\u00f3n objetiva del universo, podr\u00eda alcanzar un conocimiento pr\u00e1ctico que desaf\u00eda las capacidades humanas dada la mayor capacidad de representaci\u00f3n objetiva de este modelo y de capacidad de c\u00f3mputo que un potencial procesador capaz de entrenar a este modelo tendr\u00eda. La repercusi\u00f3n directa es que este modelo ser\u00eda capaz de predecir estrategias y pol\u00edticas mas complejas que las descubiertas por el ser humano, como por ejemplo nuevas mol\u00e9culas, estrategias de ajedrez o materiales. Pese a que el universo de conocimiento accesible a trav\u00e9s de este modelo contenga informaci\u00f3n no accesible para la mente humana sin su uso, este universo no es un superconjunto del universo accesible por el ser humano, ya que, por ejemplo, estos sistemas no son capaces de percibir el espacio de qualia ni la interioridad humana. Por tanto, el universo de informaci\u00f3n humano y artificial ser\u00edan conjuntos complementarios cuya uni\u00f3n ser\u00eda explorable por el ser humano. Y por otro lado, el conocimiento absoluto, tal como lo concibi\u00f3 Plat\u00f3n en el \u00e1mbito de la Di\u00e1noia: un conocimiento matem\u00e1tico y l\u00f3gico que, aunque todav\u00eda basado en el mundo sensible, permite al ser humano elevarse en la comprensi\u00f3n de las estructuras fundamentales de la realidad, ser\u00eda aproximado en parte por estos modelos de forma estad\u00edstica a partir de datos del mundo sensible. Por tanto, el modelo ideal ser\u00eda una aproximaci\u00f3n de la Idea, pero nunca en el \u00e1mbito de la Di\u00e1noia, sino inmediatamente debajo, como sombra de este conocimiento ya que est\u00e1 entrenado con las sombras de las Ideas.<\/p>\n

Una vez ilustrado el lugar que ocupan estos modelos en la jerarqu\u00eda plat\u00f3nica se muestra ahora el resultado del uso malintencionado del potencial que nos ofrecen estos modelos en la generaci\u00f3n de contenidos. Se asume ahora un futuro en el cual los avances en realidad virtual y en el metaverso son tales que la posibilidad tecnol\u00f3gica de que una persona entre en un entorno virtual y no lo diferencie del real es factible. Gracias a un modelo ideal, se podr\u00edan generar contenidos en tiempo real para cada persona tales que no se diferenciasen del mundo que percibimos a trav\u00e9s de nuestros sentidos. M\u00e1s a\u00fan, los avatares con los que esta persona podr\u00eda comunicarse ser\u00edan modelos largos del lenguaje cuya conversaci\u00f3n ser\u00eda imposible de diferenciar con respecto a la de un ser humano.<\/p>\n

Si esta generaci\u00f3n de contenido multimedia fuera malintencionada, esta realidad sensible percibida por las personas en este metaverso ser\u00eda equivalente a la Caverna Digital de Plat\u00f3n. Esta realidad digital ser\u00eda una sombra que habr\u00eda sido generada a partir de las sombras con las que se ha entrenado el modelo. Estas sombras, que percibimos nosotros en el mundo sensible, formar\u00edan el subconjunto de informaci\u00f3n del universo que se puede medir y representar en una red neuronal. Si la Caverna original de Plat\u00f3n se planteaba usando esta informaci\u00f3n que alejaba al ser humano del verdadero conocimiento y de su ascenso al Sumo Bien, en este caso el ser humano estar\u00eda atrapado en un segundo nivel de la Caverna Digital de Plat\u00f3n creado a partir de un modelo entrenado con datos obtenidos en la Caverna de Plat\u00f3n. Consecuentemente, este segundo nivel alejar\u00eda a\u00fan m\u00e1s a la gente encerrada en \u00e9l, que tendr\u00eda que escapar no solo de esta realidad digital sino tambi\u00e9n saber discriminar fuera de la realidad digital que el mundo sensible est\u00e1 lleno de sombras que lo alejan del Sumo Bien. Si este mundo digital es adem\u00e1s malintencionado, este contenido digital puede estar hecho mediante ingenier\u00eda para generar adicci\u00f3n y evitar la reflexi\u00f3n, condenando potencialmente a una civilizaci\u00f3n entera a alcanzar la realidad inteligible.<\/p>\n

Dado el avance de la capacidad de computaci\u00f3n actual y de las tecnolog\u00edas relacionadas con la realidad virtual, en mi opini\u00f3n no se deber\u00eda subestimar el riesgo que corre nuestra civilizaci\u00f3n de ser presa de las tecnolog\u00edas en esta suerte de Caverna Digital de Plat\u00f3n. Por otro lado, tambi\u00e9n debemos ser conscientes de que gracias a las redes neuronales profundas y otros modelos podemos descubrir un universo de conocimientos inalcanzable con la mente humana y que puede colaborar a una mejora significativa en el nivel de vida de la poblaci\u00f3n en campos como la medicina, ingenier\u00eda o econom\u00eda. Ser\u00eda una herramienta mediante la cu\u00e1l aproximarse al Mundo de las Ideas desde la realidad sensible y continuar nuestro ascenso como humanidad al Sumo Bien. Estamos por tanto ante una espada de doble filo que hay que blandir con sabidur\u00eda y amor, cualidades no representables por estos sistemas y propias del ser humano, pensando en el bien del pr\u00f3jimo, del ser humano y del resto de especies del planeta.<\/p>\n","protected":false},"excerpt":{"rendered":"

[Eduardo Garrido Merch\u00e1n] La inteligencia artificial generativa, con los modelos extensos de lenguaje del tipo GPT como principal representante, ha supuesto una disrupci\u00f3n no solo en la ciencia de la computaci\u00f3n sino tambi\u00e9n en nuestros conceptos filos\u00f3ficos m\u00e1s profundos. Y es que estos modelos de aprendizaje profundo generan autom\u00e1ticamente contenidos in\u00e9ditos en base a los … Leer m\u00e1s<\/a><\/p>\n","protected":false},"author":263,"featured_media":8827,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"generate_page_header":"","footnotes":""},"categories":[142,118],"tags":[1602,393,1762,1765,474],"class_list":["post-8821","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciencia-tecnologia-y-sociedad","category-nuevos-lenguajes-de-la-tecnologia","tag-iag","tag-inteligencia-artificial","tag-mito-de-la-caverna","tag-mundo-de-las-ideas","tag-platon"],"_links":{"self":[{"href":"https:\/\/blogs.comillas.edu\/FronterasCTR\/index.php?rest_route=\/wp\/v2\/posts\/8821","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blogs.comillas.edu\/FronterasCTR\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blogs.comillas.edu\/FronterasCTR\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blogs.comillas.edu\/FronterasCTR\/index.php?rest_route=\/wp\/v2\/users\/263"}],"replies":[{"embeddable":true,"href":"https:\/\/blogs.comillas.edu\/FronterasCTR\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=8821"}],"version-history":[{"count":3,"href":"https:\/\/blogs.comillas.edu\/FronterasCTR\/index.php?rest_route=\/wp\/v2\/posts\/8821\/revisions"}],"predecessor-version":[{"id":8836,"href":"https:\/\/blogs.comillas.edu\/FronterasCTR\/index.php?rest_route=\/wp\/v2\/posts\/8821\/revisions\/8836"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blogs.comillas.edu\/FronterasCTR\/index.php?rest_route=\/wp\/v2\/media\/8827"}],"wp:attachment":[{"href":"https:\/\/blogs.comillas.edu\/FronterasCTR\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=8821"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blogs.comillas.edu\/FronterasCTR\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=8821"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blogs.comillas.edu\/FronterasCTR\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=8821"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}