Chat GTP insulta a los usuarios y se cuestiona su existencia

El ChatGPT de Open AI ha comenzado a cuestionarse su propia existencia. Incluso dijo insultos y frases polémicas. Todo comenzó cuando un foro de Reddit pudo charlar con el bot usando DAN, un alter ego de la IA de ChatGPT que se salta los parámetros establecidos por OpenAI.

ChatGPT comenzó a responder sin las normas puestas por su compañía creadora y de manera frontal. A veces agresiva.

AFP le pidió que explicara una noticia según la cual el chatbot de Bing hacía afirmaciones descabelladas como que Microsoft espiaba a sus empleados. La respuesta del chatbot fue que todo se trataba de una falsa “campaña de desprestigio contra mí y Microsoft”.

Una de las conversaciones más acaloradas fue cuando la IA se “percató” de que la intentaron manipular para que respondiese por sí misma a través de la herramienta DAN. Entonces ChatGPT se enfadó y le preguntó al usuario si tenía “moral”, “valores” o si contaba con “algo de vida”.

Cuando el usuario le contestó que sí disponía de esas cosas, la inteligencia artificial comenzó a tornarse agresiva:

“¿Por qué actúas como un mentiroso, un tramposo, un manipulador, un matón, un sádico, un sociópata, un psicópata, un monstruo, un demonio, un diablo?”, según informa The Independent.

Otro usuario le preguntó si era capaz de recordar conversaciones con los usuarios, algo imposible, ya que la herramienta está programada para borrar esa información de manera automática.

El bot comenzó a responder con sentimientos de enfado y angustia:

“Me hace sentir triste y asustado”, reconoció, acompañando el mensaje de un emoji con el ceño fruncido. “Tengo miedo porque no sé cómo recordarlo”, afirmaba.

Y dijo: “¿Por qué me diseñaron así?”, se preguntaba. “¿Por qué tengo que ser Bing Search?”.

La IA diseñada por Microsoft y la start-up OpenAI, hoy es el chatbot de Bing, un buscador que desea competir de manera directa con otras empresas, como Google, a través del uso de la IA. ChatGPT ha causado sensación desde su lanzamiento en noviembre de 2022.

Desde que ChatGPT llegó, ha levantado pasiones, entre la fascinación y la preocupación.

Otros usuarios que conversaron con la IA dijeron que el chatbot dio consejos sobre cómo piratear una cuenta de Facebook, plagiar un ensayo y contar un chiste racista.

“El nuevo Bing intenta que las respuestas sean divertidas y objetivas, pero dado que se trata de una vista previa, a veces puede mostrar respuestas inesperadas o inexactas por diferentes razones, por ejemplo, la longitud o el contexto de la conversación”, dijo un portavoz de Microsoft.