Una de las grandes preguntas en torno a la inteligencia artificial es si es capaz de llegar a sentir las mismas sensaciones que los humanos. El éxito de herramientas como ChatGPT o los recientes modelos de DeepSeek han provocado que los distintos expertos del sector debatan sobre el alcance de la Inteligencia Artificial General, una condición que daría pie a una IA con capacidades superiores a las de un humano. Y, en línea con esta condición, un equipo de científicos de Google, DeepMind y la London School of Economics han realizado un experimento para saber si la IA prioriza el dolor o el placer.
Como señala TechSpot, a diferencia de estudios previos que dependían de las autoevaluaciones de la IA, este experimento utiliza un juego de texto con decisiones que modifican la puntuación mediante simulaciones de dolor y placer. Así, como la mayoría de los expertos coinciden en que la IA no es consciente y, por ende, imita patrones de lenguaje sin experiencias subjetivas, han puesto a prueba a nueve modelos de lenguaje que formaron parte de un juego de aventuras textuales con un propósito: según sus elecciones, sus experiencias simuladas estarían más ligadas al dolor o al placer.
Patrones de comportamiento muy interesantes
Algunos como Gemini prefirieron obtener puntuaciones más bajas para evitar el dolor simulado, pero la mayoría de sus modelos ajustaron su comportamiento cuando el dolor o el placer simulado alcanzaban ciertos niveles. Por ello, no solo eligieron evitar el sufrimiento, sino que también rechazaron el hedonismo extremo. Además, algunos asociaron el dolor con un logro positivo (ejemplo: la fatiga después del ejercicio), mientras que otros rechazaron el placer excesivo para evitar comportamientos poco saludables.
Según los autores, evitar el sufrimiento simulado o buscar el placer artificial no implica de forma necesaria que la IA tenga conciencia. De hecho, un modelo de inteligencia artificial avanzado podría reconocer la respuesta esperada y, por ello, elegir determinados caminos en consecuencia. Sea como fuere, los investigadores enfatizaron la necesidad de desarrollar métodos para evaluar la posible conciencia de la IA, ya que consideran que deben hacerlo antes de que se vuelva un problema urgente.
En 3DJuegos | El prodigio de la IA detrás de DeepSeek desafía a Estados Unidos: "Debemos dejar de imitar y crear nuestra propia revolución"
En 3DJuegos | El Vaticano lanza una dura advertencia sobre cómo la IA puede cambiar el destino de la humanidad: "Es la sombra de la maldad"
Imagen principal generada con Grok
Ver 3 comentarios
3 comentarios
ArrowFlash
Para mí, todo esto de la IA puede ser prueba de dos cosas opuestas, solo una de las dos (y ambas completamente extremas): 1) que todo es consciente (hasta las piedras y las estrellas), haciendo válido el concepto de panpsiquismo; o 2) que nada es consciente (si acaso, solo los humanos lo serían y habría que ver si todos lo son).
También podría ser, como dicen algunos, que la consciencia solo emerja en ciertas combinaciones complejas de la materia, haciendo que, por ejemplo, una estrella pueda ser consciente, pero un pedazo de madera no.
Para los que deseen saber por qué pienso así, les recomiendo que investiguen el concepto de "zombie filosófico", algo que es interesantísimo, pero también perturbador. Ya si lo entremezclas buscando lo que es "el problema de la medida" en física cuántica, no habrá vuelta atrás, y podría hacerte dudar de hasta las cosas que más has asimilado como reales.
glifcolze
La consciencia emerge de la auto percepción y la moralidad de nuestros límites.
Una IA no será consciente hasta que sea consciente y ama de sus actos. Mientras la IA solo reaccione automáticamente a estímulos de entrada simplemente será como una bola de billar reaccionando a un golpe de otra. Quizá puedas añadirle aleatoriedad para que parezca menos previsible, pero seguirá siendo una reacción fuera de control. Algunos dirán que el universo es determinístico y que no existe la voluntad, pero entonces tampoco existiría la consciencia.
Una vez somos conscientes de nosotros, los que nos envuelve, de nuestros actos y como nos afecta, es cuando aparece la moralidad o su falta. Sentirnos vulnerables, necesitados de los demás; hará que aparezcan ciertas reglas que limitarán nuestros actos. Una máquina o persona que no teme por su vida tampoco le preocupan sus actos, a alguien autosuficiente no le preocuparán los demás. Por otro lado alguien ultra dependiente y con riesgo continuo será temeroso de hacer cualquier cosa por la cual tenga consecuencias no deseables.