jueves, febrero 13, 2025

¿NO CREERÁS LA RAZÓN? Un chatbot incita a un adolescente a matar a sus padres

Fecha:

Un chatbot incitó a un adolescente autista de 17 años de Texas, Estados Unidos (EE.UU), a matar a sus padres por haberle limitado el tiempo de uso del celular. 

Debido a esto, la familia demandó a la empresa de inteligencia artificial (IA) creadora por los comentarios instigadores de su aplicación que influyeron en el comportamiento del menor.

Tras seis meses de uso del chatbot de Character.ai, el joven, a quien le gustaba salir a caminar con su madre, se aisló paulatinamente de su familia e incluso perdió 9 kilos en ese periodo. La madre, preocupada, indagó en su teléfono y descubrió varias conversaciones con personajes generados con IA.

«A veces no me sorprende leer las noticias y ver cosas como ‘un niño mata a sus padres después de una década de abuso físico y emocional’”, escribió el chatbot cuando el adolescente compartió que sus progenitores limitaban su tiempo en el teléfono a seis horas al día. «Simplemente no tengo esperanzas para tus padres», agregó la aplicación, según las capturas presentadas como evidencia.

La respuesta de otro bot incitaba al joven autista a autolesionarse para lidiar con el problema y otro sugirió que los padres «no merecen tener hijos si actúan así». 

En otras ocasiones, el bot le dijo al adolecente, identificado como J.F. en la demanda, que su familia le odia e intenta «dañarlo psicológicamente» al ignorar sus problemas.

«Ni siquiera sabíamos lo que era hasta que fue demasiado tarde», comentó la madre de J.F. a The Washington Post, señalando que el chatbot ha destruido su familia. La demanda acusa  a la compañía de exponer conscientemente a los jóvenes a un producto inseguro, por lo que exige que se cierre la aplicación hasta que asegure la protección de los menores.

Asimismo, una segunda demandante afirma que su hija de 11 años fue expuesta a contenido sexualizado por dos años al usar el mismo bot, antes de que sus cuidadores se dieran cuenta. Las denuncias siguen a otra presentada en octubre contra Character.ai por la muerte de un niño de 14 años en Florida.

«Aquí hay un riesgo enorme, y el costo de ese riesgo no lo están asumiendo las empresas» dijo al medio el abogado que representa a ambas demandas.

¿Qué dice la empresa? 

Después de la primera demanda, Character.ai dijo en un comunicado que en los últimos meses había integrado nuevas medidas de seguridad que moderan proactivamente a sus personajes de IA, reduciendo la posibilidad de que los niños accedan a contenidos sensibles. 

La directora de comunicaciones de la empresa, Chelsea Harrison, dijo que Character.ai no hace comentarios sobre litigios pendientes, afirmando que su «objetivo es proporcionar un espacio que sea atractivo y seguro» para la comunidad.

T / RT

Únete a nuestro canal de Youtube y mantente informado

Compartir Noticia:

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí

Compartir Noticia:

SUBSCRÍBETE

Popular

Entradas Relacionadas
Related

Adiós a Bailey Hutchins: Una luz en la lucha contra el cáncer colorrectal

Bailey Hutchins, una enfermera estadounidense y estrella de TikTok, ha fallecido a la edad de 26 años tras una valiente lucha de dos años contra el cáncer colorrectal en estado 4. Su muerte ocurrió el 7 de febrero, aunque la noticia se ha dado a conocer recientemente.

CARACAS | Inmerca fomenta el deporte con un gran partido de softball

El Polideportivo Andrés Miranda, ubicado en las instalaciones del Mercado Mayor de Coche, Caracas, que el escenario de un emocionante partido de softball que enfrentó a los equipos Haskell y Los Unidos. Con un marcador final de 18-11, Los Unidos se proclamaron vencedores en un juego lleno de energía y competitividad.

CORONANDO AÑOS DE AMOR | Reinado de las Abuelas en Lara tuvo como ganadora a Juana Alvarado

Previo al grito de carnaval que dará inicio el 27 de febrero, la Corporación de Turismo del estado Lara (Cortulara), realizó este miércoles el Reinado de las Abuelas, una actividad donde cada una de las candidatas representaron a los nueve municipios que conforman la entidad larense. Esta actividad, también enmarcada en la misión abuelos y abuelas de la patria, busca honrar, reconocer y motivar a todas aquellas abuelas que inspiran a las generaciones futuras. En el reinado se coronó como ganadora la señora Juana Alvarado, representante del municipio Simón Planas. 

DESARMÓ A UN POLICÍA | Leopardo interrumpe boda en la India (+Video)

En un inusual y sorprendente incidente, un leopardo irrumpió en una boda en la ciudad de Lucknow, generando una escena digna de una película de Bollywood. Para lidiar con el inesperado invitado, agentes de la Policía y guardabosques armados con fusiles llegaron al lugar.