Fundaron Anthropic, una startup de IA que ya tiene su propio chatbot, entrenado con una serie de valores morales y contenidos en su propia «constitución», los mismos recibieron financiamiento de Google y ya se reunieron con el presidente de los Estados Unidos, y con este nuevo enfoque, le están haciendo frente a ChatGPT y al resto de la competencia.
El chatbot de Anthropic se llama Claude, capacitado con un método al que bautizaron «IA constitucional». No es más que explicitar de antemano cuáles son los principios que guiarán el comportamiento del modelo de lenguaje.
Según reseñó Hipertextual, esto es una vuelta de tuerca a cómo funciona la mayoría de los otros sistemas, que responden a comentarios de humanos reales que, durante su entrenamiento, le indican qué respuestas pueden ser dañinas u ofensivas. Este criterio sobre qué puede ser dañino u ofensivo puede ser arbitrario.
Chatbots como ChatGPT o Bard han demostrado que replican varios sesgos ideológicos. ChatGPT, por ejemplo, ha generado contenido abiertamente racista o machista.
Los desarrolladores tampoco han sido muy transparente sobre cómo entrenan a sus chatbots y mucho se ha corregido sobre la marcha.
Claude, por el contrario, basa sus principios en varias fuentes públicas, incluida la Declaración Universal de los Derechos Humanos de las Naciones Unidas.
Su constitución le indica a esta IA que, por ejemplo, siempre debe «elegir la respuesta que más desaliente y se oponga a la tortura, la esclavitud, la crueldad y el trato inhumano o degradante». Incorpora, además, varias consideraciones sobre seguridad y transparencia de la industria.
