Hace unas semanas un hombre de 36 años fue detenido en Brasil por planear el asesinato de su hijo de 8 años pidiéndole consejos al ChatGPT para estructurar el crimen. Los sistemas de seguridad de OpenAI detectaron las intenciones violentas expresadas en las conversaciones, lo que permitió que las autoridades actuaran y frustraran el homicidio un día antes de la fecha prevista.
De acuerdo con la investigación, el sospechoso confesó que su principal motivo para cometer el filicidio era evitar el pago de la pensión alimentaria del menor. Durante sus interacciones con el chatbot, describió distintos métodos para llevar a cabo el crimen, entre ellos el uso de un arma de fuego, una soga y el envenenamiento con cianuro. Además, reveló que había intentado contratar a un sicario por 50.000 reales, pero este rechazó el encargo al enterarse de que la víctima era un niño. Las autoridades también informaron que las conversaciones contenían referencias a posibles ataques contra escuelas, iglesias y funcionarios públicos.
La investigación señala que los filtros de inteligencia artificial de OpenAI identificaron lenguaje explícito relacionado con violencia de alto riesgo e indicios de una amenaza inminente. Posteriormente, moderadores humanos revisaron el contexto de las conversaciones y confirmaron la gravedad de la situación, siguiendo los protocolos internos de la empresa. Posteriormete OpenAI notificó el caso al FBI en Estados Unidos, que remitió el informe de forma urgente al Ministerio de Justicia de Brasil.
La Unidad Especializada en Delitos Cibernéticos en Brasil localizó al sospechoso y ejecutó su detención preventiva. Aunque el hombre reconoció haber mantenido las conversaciones, aseguró que no tenía la intención real de ejecutar el delito. Sin embargo, el historial detallado de los chats fue considerado una prueba suficiente para justificar la intervención de las autoridades y proteger la vida del menor. El caso reabrió el debate internacional sobre las políticas de privacidad y el monitoreo de datos en las plataformas de inteligencia artificial.
Lo cierto es que el fenómeno IA está generando variedad de asuntos preocupantes, desde personas que se psicoanalizan con esta herramienta, algunas que le preguntan sobre su salud, otros que lo tienen como amigo, y en todos estos casos como en el que se explicaba anteriormente se pierde el foco, de que se está interactuando con un sistema, no con una persona real.
Hay que tener en cuenta que al ser un sistema informático, está absolutamente conectado y la información tanto que se le incorpora como la que brinda está supervisada, sobre todo con ciertas palabras de riesgo, sea para mejor como en estos casos o a veces captando información privada de los usuarios, aunque en teoría no sea posible divulgarla ni utilizarla para sí. Pero en definitiva todo termina en el mismo lugar, es una máquina, brindando y captando datos.
Fue discutido si es legítimo haber intervenido legalmente en este caso ya que se supone que nadie está leyendo las “conversaciones” que se tiene con este tipo de herramientas, pero la realidad es que evitaron un homicidio en grado de tentativa y es seguro para la población en general que frente a ciertas palabras detectadas se active un protocolo de seguridad.
Leave a Reply