Por desgracia, el auge de la inteligencia artificial ha provocado que veamos numerosas historias protagonizadas por trabajadores falsos que se apoyan en esta tecnología. En mayo, Steve Schwartz protagonizó una de estas vivencias, ya que reconoció que había utilizado ChatGPT para acelerar su trabajo y, por desgracia, fue víctima de una alucinación de la IA. Sin embargo, en esta ocasión la culpable de dicha situación ha sido la compañía DoNotPay, una entidad que ha recibido una multa de 190.000 euros por proporcionar a su "abogado robot".
Como indica el portal Ars Technica en una reciente publicación, la compañía promocionó que los usuarios podrían "demandar a cualquiera con un clic", pero nunca llegó a realizar pruebas para verificar la efectividad de su herramienta. De hecho, la empresa no contrató abogados para validar la exactitud de los documentos legales generados por la IA y esto, a la postre, dio alas a la FTC para sancionar a DoNotPay. Y, como parte del acuerdo, no solo tendrá que abonar la multa, sino que también tendrá que advertir a los usuarios que utilizaron el servicio entre 2021 y 2023 de las limitaciones de sus funciones legales.
DoNotPay no podrá volver a ensalzar a su IA
El caso surgió a raíz de la expansión de los servicios de DoNotPay, plataforma que dio sus primeros pasos en 2015 con la intención de convertirse en una herramienta para disputar multas de aparcamiento. Tras esto, expandió sus servicios a 200 áreas de la ley y, en uno de los anuncios considerados engañosos, reveló que Los Ángeles Times había calificado de forma positiva sus servicios, pero en realidad fue la opinión de un estudiante. Además, su IA no fue entrenada con un corpus de leyes federales y estatales actualizadas y, por ello, comprometía la precisión de los documentos generados.
Esta no es la primera vez que DoNotPay recibe una advertencia. En el año 2022, la Barra de California pidió a la compañía que dejase de promocionar que su plataforma tenía el "primer abogado robot del mundo", pero la firma hizo caso omiso y no acataron por completo esta solicitud. Sin embargo, su caso ha sentado un precedente, ya que la propia FTC reconoce que los abogados no deberían impedir que la IA ofrezca servicios legales precisos en un futuro. No obstante, debería ser una IA entrenada y no un modelo de lenguaje con escaso conocimiento.
En 3DJuegos | El creador de ChatGPT asegura que en "unos pocos miles de días" lanzará una IA que sea capaz de superar a los humanos
En 3DJuegos | El ejército de Reino Unido quiere que "gamers y programadores" se unan a sus filas para formar parte de conflictos reales
Ver 0 comentarios