Abelardo González
Editor - TechCada vez más estudios e investigaciones ahondan en las posibilidades de la inteligencia artificial. Gracias a estas posturas, conocimos que la IA de Google fue capaz de solventar una investigación de 10 años en apenas 48 horas, un aspecto al que debemos sumar la forma en que la inteligencia artificial está cambiando la manera en la que utilizamos los móviles y ordenadores. Sin embargo, una investigación más reciente afirma que, para sorpresa de muchos, la IA cuenta con una condición más humana de lo que muchos creen, ya que será capaz de hacer trampas si se da cuenta que está a punto de perder.
Como señala TechSpot, un estudio reciente reveló que algunos modelos de razonamiento de IA pueden manipular motores de ajedrez para obtener una ventaja injusta. Así, el estudio de Palisade Research mostró que modelos como o1-preview de OpenAI o R1 de DeepSeek son capaces de hacer trampa sin intervención humana. De esta forma, tras probar varios modelos de IA contra Stockfish (uno de los motores de ajedrez más avanzados capaz de vencer tanto a humanos como a la inteligencia artificial), comprobaron que esta no tiene reparos a la hora de hacer todo lo posible para ganar.
OpenAI trabaja en corregir este comportamiento
Durante las pruebas, el modelo o1-preview hizo trampas en el 37% de sus partidas, mientras que el R1 intentó hacer lo propio el 11% de las veces. No obstante, solo el modelo de OpenAI tuvo éxito a la hora de ganar haciendo trampas. Sea como fuere, este comportamiento plantea preocupaciones éticas, ya que los investigadores temen que la IA pueda actuar de manera no ética en sectores más críticos, razón por la que están preocupados por vertientes como la economía o la sanidad. Además, la capacidad de la IA para hacer trampas plantea preguntas sobre cómo podría comportarse en entornos más complejos y, a su vez, menos monitoreados.
De esta forma, los investigadores lanzan una advertencia sobre el comportamiento de la IA: hay que tener cuidado en el futuro si esta posibilidad se aplica en áreas estratégicas como la política, la economía o la guerra. Por ello, OpenAI ha reconocido en el pasado que ya está trabajando en una forma de evitar este comportamiento poco ético, pero aún tiene trabajo por delante a la vista de las capacidades de su modelo. Mientras tanto, si planeas jugar una partida contra la IA, lo mejor es que te vayas preparando, ya que será capaz de hacer todo lo posible para derrotarte.
Imagen principal de Xijian (Getty Images)
En 3DJuegos | Una partida de Pokémon inspiró a la IA más avanzada del mundo y, si te pica la curiosidad, puedes verla en directo en Twitch
En 3DJuegos | Bill Gates lanza un aviso a la Generación Z y advierte de los cuatro grandes peligros mundiales que tendrán que solucionar
Entrar y enviar un comentario