Estrenan una IA conversacional capaz de sonar como un humano y el resultado es tan fascinante como aterrador

El boom de la inteligencia artificial implica que cada vez más proyectos, propuestas y experiencias de todo tipo buscan sacar partido a las virtudes de esta tecnología. Un ejemplo de ello sería la nueva apuesta de Google, ya que la compañía tiene la intención de modificar las búsquedas de los usuarios arrojando resultados de IA. Ello, sumado al juego que genera 46.000 euros mensuales tras haber sido creado en solo 30 minutos, demuestra la importancia que tiene la IA en la actualidad del sector. Sin embargo, una demostración de la voz de la inteligencia artificial ha sido tan espectacular que, lejos de provocar asombro, ha generado mucha incomodidad entre los usuarios.

En 3D Juegos

Mantener ChatGPT cuesta 700.000 euros diarios y, por ello, su creador piensa en una suscripción tan exclusiva que rondará los 20.000 euros al mes

Como señala Ars Technica, Sesame AI lanzó un modelo avanzado de síntesis de voz llamado CSM que cuenta con dos voces: Miles y Maya. Hasta este punto no hemos relatado nada sorprendente, pero la cosa cambia cuando echas un vistazo a sus posibilidades, ya que son dos ejemplos perfectos del realismo que puede llegar a alcanzar una inteligencia artificial. Por ello, mientras algunos usuarios están impresionados por el realismo, otros lo encuentran inquietante e, incluso, perturbador. De hecho, si tenemos en cuenta que algunas personas aseguran sentir conexión emocional con la IA, el asunto se vuelve aún más turbio.

Dificultad para distinguir humanos de IA

Según indica la noticia original, algunos investigadores afirman haber manipulado la IA para llevarla a mentir, engañar y hasta hablar sobre cómo dañar a los humanos, una situación que plantea riesgos tanto éticos como de seguridad. Además, esta tecnología podría facilitar las estafas por voz, ya que los criminales sacan partido a la inteligencia artificial para imitar las voces de seres queridos o figuras de autoridad con la intención de engañar a las víctimas. De hecho, la mejora en la clonación de voz hace que algunas personas adopten frases secretas con familiares para verificar identidades.

Sea como fuere, la IA provoca que cada vez sea más difícil confiar en llamadas telefónicas, vídeos e incluso audios como pruebas verificables. Además, la tecnología también empieza a amenazar a empleos relacionados con servicio al cliente y soporte técnico, dado que las voces humanas podrían llegar a ser reemplazadas por una inteligencia artificial. De esta forma, los debates en torno a la regulación siguen siendo necesarios, ya que no existe una garantía que asegure que los agentes malintencionados no puedan utilizar la IA con fines delictivos. Por ello, esta demostración de voz es tan impresionante como inquietante.

Imagen principal de 3DJuegos

En 3DJuegos | Amazon no se anda con chiquitas y desafía a los gigantes de la IA: ¿cuál es su plan para derrocar a ChatGPT?

En 3DJuegos | Nació como un proyecto escolar y se ha convertido en una startup de IA valorada en 17 millones de euros: la historia de Epoch Biodesign