Hace pocos meses en Estados Unidos, un joven de 36 años se suicidó, y dejó una nota, por la cual su padre demandó a Gemini, el chatbot de inteligencia artificial de Google, fundándose en que esta herramienta habría guiado a su hijo en una misión que lo llevó a la muerte, mediante una serie creciente de delirios.
La demanda se basa en una muerte por negligencia y responsabilidad, últimamente se ha incrementado el número de impugnaciones legales contra desarrolladores de IA fundándose en los peligros que tiene para la salud mental el acompañamiento de chatbots sin supervisión. Muchas personas lo utilizan como terapia o para consultas médicas, prescindiendo de los profesionales que han estudiado para eso y tienen una visión global, lo cual puede ser muy peligroso. Es cierto que muchas veces los bots advierten sobre su parcialidad y expresan que no debe dejar de consultarse a un profesional en la materia, pero muchas veces por comodidad prescinden de ello.
Es difícil poder responsabilizar a la IA, porque en definitiva quien tiene la última palabra sobre uno mismo es cada persona, pero lo que sí debería regularse es su uso y sobre todo velar por un uso consciente de la herramienta, que puede ser asombrosamente buena, como también muy perjudicial, dependiendo el uso que se le de, y nunca debe tomarse como verdad absoluta lo que surge de ella.
Este asunto va de la mano con la regulación de la salud mental, la IA es acusada en varios casos de intensificar los “delirios paranoides”. Es evidente que la salud mental debe seguirse más de cerca en estos tiempos que corren, más que nada sabiendo que una IA puede estar aconsejándolos, máxime en los casos en que se utiliza por voz, y el usuario puede llegar a creer que alguien le habla, y hasta entablar una relación que cree es real.
Google se escudó entre otros argumentos, en que la IA no es perfecta, pero eso puede alegarse si por ejemplo te dio mal una información, pero no cuando ha alimentado los delirios de alguien que claramente necesitaba ayuda profesional. En estos casos debería activarse algún mecanismo de alarma o simplemente que la IA no pueda comunicarse más con ese usuario. Una vez más la tecnología nos supera y va más rápido de lo que la normativa puede hacerlo, pero este tipo de casos deben ser fuente de investigación para tratar de evitar que continúen sucediendo.
Leave a Reply