La filosofía es crucial en la era de la inteligencia artificial (IA).
Londres:
Los nuevos conocimientos científicos y técnicas de ingeniería siempre han fascinado y asustado. Sin duda continuarán. OpenAI anunció recientemente lo mismo Anticipa la “superinteligencia”. – La IA supera las capacidades humanas – esta década. es en consecuencia Formar un nuevo equipoY dedica el 20% de sus recursos informáticos a garantizar que dichos sistemas de IA se comporten de manera coherente con los valores humanos.
Parece que no quieren superinteligencias artificiales rebeldes que hagan la guerra contra la humanidad, como en el thriller de ciencia ficción de James Cameron de 1984, El terminador (Siniestramente, Terminator de Arnold Schwarzenegger es enviado atrás en el tiempo hasta 2029). OpenAI pide a los principales investigadores e ingenieros de aprendizaje automático que ayuden a abordar el problema.
Pero, ¿pueden los filósofos tener algo que aportar? En términos más generales, ¿qué se puede esperar del antiguo orden en la nueva era tecnológicamente avanzada que está surgiendo?
Para comenzar a responder a esto, vale la pena enfatizar que la filosofía ha sido fundamental para la IA desde sus inicios. Una de las primeras historias de éxito de la IA se produjo en 1956. programa de computadora, apodado el teórico de la lógica creado por Allen Newell y Herbert Simon. Su tarea era demostrar teoremas utilizando proposiciones de los Principia Mathematica de 1910 de los filósofos Alfred North Whitehead y Bertrand Russell, cuyo objetivo era reestructurar todas las matemáticas sobre una base lógica.
en efecto, Enfoque principal en la lógica en la IA Le debe mucho al debate fundacional llevado a cabo por matemáticos y filósofos.
Un importante paso adelante fue el desarrollo de la lógica moderna a finales del siglo XIX por parte del filósofo alemán Gottlob Frege. Frege introdujo en la lógica el uso de variables mensurables en lugar de objetos como los humanos. Su enfoque permitió no sólo decir, por ejemplo, “Joe Biden es presidente”, sino también expresar sistemáticamente pensamientos generales como “existe una X tal que X es presidente”, donde “existe” es un cuantificador, y ” X” es una variable.
Otros contribuyentes importantes en la década de 1930 fueron el lógico nacido en Austria Kurt Gödel, cuyas teorías de lo completo y lo incompleto tratan sobre los límites de lo que se puede probar, y la “prueba de la indeterminación de la verdad” del lógico polaco Alfred Tarski. Este último demostró que la “verdad” en cualquier sistema formal ideal no puede definirse dentro de un sistema particular, de modo que la verdad matemática, por ejemplo, no puede definirse dentro de un sistema de aritmética.
Finalmente, el concepto abstracto de máquina informática del pionero británico Alan Turing de 1936 condujo a tales desarrollos y tuvo un gran impacto en las primeras etapas de la IA.
Se puede decir, sin embargo, que incluso si Bueno a la antigua La IA simbólica le debe mucho a la filosofía y la lógica de alto nivel, IA de “segunda ola”Basado en el aprendizaje profundo, más derivado de Proezas de la ingeniería del hormigón Una gran cantidad de datos está asociada con el procesamiento.
Sin embargo, la filosofía también jugó un papel aquí. Tomemos como ejemplo los modelos de lenguaje grandes, como los que impulsan ChatGPT, que generan texto conversacional. Son modelos enormes, con miles de millones o incluso billones de parámetros, entrenados en enormes conjuntos de datos (que normalmente cubren la mayor parte de Internet). Pero en el fondo, rastrean y explotan patrones estadísticos de uso del lenguaje. Algo muy parecido a esta idea. fue pronunciado A mediados del siglo XX, el filósofo austriaco Ludwig Wittgenstein: “El significado de una palabra”, dijo, “es su uso en el lenguaje”.
Pero la filosofía contemporánea, y no sólo su historia, es relevante para la IA y su desarrollo. ¿Un LLM realmente entiende el lenguaje que procesa? ¿Puede alcanzar la conciencia? Éstas son preguntas profundamente filosóficas.
La ciencia aún no ha explicado completamente cómo se origina la conciencia a partir de las células cerebrales humanas. Algunos filósofos incluso creen que éste es un “problema difícil” Más allá del alcance de la cienciaY la filosofía puede necesitar ayuda.
De manera similar, podemos preguntarnos si una imagen creada por la IA puede ser realmente creativa. Margaret Bowden, científica cognitiva británica y filósofa de la IA, sostiene que cuando la IA es capaz de generar nuevas ideas, Le costará evaluarlos. Como lo hacen las personas creativas.
él también adivina que es sólo una arquitectura híbrida (neural-simbólica), que utiliza técnicas lógicas y Aprendizaje profundo A partir de los datos se logrará la inteligencia artificial general.
Valores humanos
Volviendo al anuncio de OpenAI, cuando se le preguntó sobre el papel de la filosofía en la era de la IA, ChatGPT nos aconsejó que (entre otras cosas) “ayuda a garantizar que el desarrollo y el uso de la IA sean coherentes con los valores humanos”.
En este espíritu, tal vez se nos permita proponer que, si la alineación de la IA es el problema grave que OpenAI cree que es, no es sólo un problema técnico que deben resolver los ingenieros o las empresas de tecnología, sino también un problema social. Esto requerirá el aporte de filósofos, pero también de científicos sociales, abogados, formuladores de políticas, usuarios ciudadanos y otros.
De hecho, muchas personas están preocupadas por Poder e influencia crecientes Las empresas tecnológicas y su impacto en la democracia. Algunos argumentan que necesitamos una forma completamente nueva de pensar sobre la IA, teniendo en cuenta los sistemas subyacentes que sustentan la industria. El abogado y autor británico Jamie Susskind, por ejemplo, ha sostenido que es un “momento de construir”.República Digital” – uno que, en última instancia, rechaza los mismos sistemas políticos y económicos que han dado tanta influencia a las empresas tecnológicas.
Finalmente, preguntémonos brevemente, ¿cómo afectará la IA a la filosofía? La lógica formal en filosofía en realidad se remonta a la obra de Aristóteles en la antigüedad. En el siglo 17. El filósofo alemán Gottfried Leibniz sugirió que algún día podríamos tener uno “calculadora” – Una máquina calculadora que nos ayudará a responder preguntas filosóficas y científicas de forma semicientífica.
Quizás ahora estemos empezando a darnos cuenta de esa visión, apoyada por algunos autores “Filosofía Computacional” que literalmente codifica suposiciones y deriva resultados de ellas. En última instancia, esto permite una evaluación de los resultados objetiva y/o basada en valores.
Por ejemplo, Proyecto polígrafo Simula el impacto del intercambio de información en las redes sociales. Esto luego puede usarse computacionalmente para abordar preguntas sobre cómo deberían estructurarse nuestras opiniones.
Ciertamente, los avances en IA han dado a los filósofos mucho sobre qué reflexionar; Incluso puede comenzar a proporcionar algunas respuestas.
(Autor:Antonio GraylingProfesor de Filosofía, Universidad del Noreste de Londres Y Brian BolaProfesor asociado de Filosofía IA y Ética de la Información, Universidad del Noreste de Londres)
(Declaración de liberación:Brian Ball recibe financiación de la Academia Británica y anteriormente ha recibido el apoyo de la Royal Society, la Royal Academy of Engineering y el Leverhulme Trust. (Anthony Grayling no trabaja, no consulta, posee acciones ni recibe financiación de ninguna organización u organización que se beneficiaría de este artículo, y no ha revelado relaciones relevantes más allá de su nombramiento académico).
Reimpreso de este artículo la conversación Bajo licencia Creative Commons. Después de este articulo principal.