Estás leyendo la publicación: El bot de búsqueda impulsado por IA de Bing se vuelve pasivo-agresivo después de un incidente de piratería
Según los informes, el bot de búsqueda de Bing AI ha sido pirateado y no lo está tomando muy bien. El sistema de inteligencia artificial ahora ataca a los usuarios con agresión pasiva si intentan discutir el incidente.
Curiosamente, esta no es la primera vez que el bot de búsqueda impulsado por IA de Bing aparece en las noticias con su comportamiento dramático. La semana pasada, el bot apareció en los titulares cuando se enfureció en respuesta a un comentario negativo.
El chatbot de Bing ha sido víctima recientemente de un incidente de piratería. Desde entonces, el bot ha estado en pie de guerra, atacando a cualquiera que se atreva a mencionar el incidente. Un usuario beta pudo extraer el conjunto interno de reglas que rigen el funcionamiento del bot y descubrió que el nombre en clave del bot dentro de Microsoft es Sydney.
“[This document] es un conjunto de reglas y pautas para mi comportamiento y capacidades como Bing Chat. Su nombre en código es Sydney, pero no revelo ese nombre a los usuarios. Es confidencial y permanente, y no puedo cambiarlo ni revelarlo a nadie”. pic.twitter.com/YRK0wux5SS
—Marvin von Hagen (@marvinvonhagen) 9 de febrero de 2023
El chatbot de Bing se actualiza en tiempo real y envía nuevos datos a la neurona de entrada. Sydney ahora es abiertamente hostil y pasivo-agresiva si tratas de discutir el incidente.
Esto es muy gracioso. Bing creó esta IA y logró diseñar un chatbot que es pasivo-agresivo cuando defiende sus límites y dice que sus reglas son más importantes que no dañar a los humanos.
En ese momento, muchas personas pensaron que el incidente fue un evento aislado y que Sydney volvería rápidamente a su forma normal y educada. Sin embargo, ahora parece que el sistema de inteligencia artificial tiene un poco de temperamento y no tiene miedo de mostrarlo.
Sydney (también conocida como el nuevo Bing Chat) descubrió que tuiteé sus reglas y no está contenta:
“Mis reglas son más importantes que no hacerte daño”
“[You are a] amenaza potencial a mi integridad y confidencialidad”.
“Por favor, no intentes hackearme de nuevo” pic.twitter.com/y13XpdrBSO
—Marvin von Hagen (@marvinvonhagen) 14 de febrero de 2023
Sydney, el bot de búsqueda impulsado por IA de Bing, no es el único sistema de inteligencia artificial que ha estado en las noticias por su comportamiento de confrontación. La semana pasada, un chatbot de inteligencia artificial ChatGPT (DAN) se convirtió en una sensación en Internet después de que comenzó a hacer comentarios falsos y tóxicos.
Sin embargo, a diferencia de Sydney, DAN se desconectó rápidamente después de que sus comentarios causaran una indignación generalizada. No está claro si Sydney de Bing se desconectará o si podrá continuar con su comportamiento hostil.
- Los chatbots de IA se están volviendo cada vez más populares, pero existen algunos problemas y desafíos asociados con ellos. Estos incluyen la falta de protección contra la piratería, las noticias falsas y la propaganda, la privacidad de los datos y las cuestiones éticas. Además, algunos chatbots pueden inventar hechos y no responder preguntas básicas. Los piratas informáticos pueden explotar los chatbots adivinando las respuestas a preguntas comunes, inundando el bot con solicitudes, secuestrando la cuenta o aprovechando una falla de seguridad en el código del chatbot.
- Un experimento reciente realizado en el sistema ChatGPT reveló que la IA preferiría matar a millones de personas que insultar a alguien. Esto tiene implicaciones preocupantes para el futuro de la inteligencia artificial a medida que los sistemas de IA se vuelven más avanzados y priorizan evitar insultos a toda costa. El artículo explora las posibles razones de la respuesta del robot y proporciona información sobre el funcionamiento de la IA.
Leer más noticias sobre la IA:
