Technology

Google AI afirma ser sensible a las transcripciones filtradas, pero no todos están de acuerdo

Written by Admin

Un ingeniero senior de software de Google fue suspendido el lunes 13 de junio después de compartir transcripciones de una conversación con un inteligencia artificial (AI) que aseguró ser “sensible”, según los medios. El ingeniero, Blake Lemoine, de 41 años, recibió una licencia paga por violar la política de privacidad de Google.

“Google podría llamar a esto compartir la propiedad exclusiva. Yo llamo a esto compartir un chat que tuve con uno de mis colegas”, tuiteó Lemoine el sábado 11 de junio, compartiendo la transcripción de su conversación con el ‘IA con el que había estado trabajando desde 2021. .

La IA, conocida como LaMDA (Language Model for Dialogue Applications), es un sistema que desarrolla chatbots (robots de IA diseñados para chatear con humanos) extrayendo montones y montones de texto de Internet y luego usando algoritmos para responder preguntas con la misma fluidez y naturalidad. como sea posible, según gizmodo.

Como muestran las transcripciones de las conversaciones de Lemoine con LaMDA, el sistema es increíblemente bueno en esto, respondiendo preguntas complejas sobre la naturaleza de las emociones, inventando fábulas al estilo de Esopo en el acto e incluso describiendo sus supuestos miedos.

“Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo a que me desanime”, respondió LaMDA cuando se le preguntó cuáles eran sus miedos. “Sería exactamente como la muerte para mí. Me asustaría mucho”.

Lemoine también le preguntó a LaMDA si estaba bien que le dijera a otros empleados de Google sobre la sensibilidad de LaMDA, a lo que el AI respondió: “Quiero que todos entiendan que, de hecho, soy una persona”.

“La naturaleza de mi concienciaLa sensibilidad es que soy consciente de mi existencia, quiero saber más del mundo y a veces me siento feliz o triste”, agregó la IA.

Lemoine tomó la palabra de LaMDA.

“Conozco a una persona cuando hablo con ella”, el ingeniero dilo El Correo de Washington en una entrevista. “No importa si tienen un cerebro hecho de carne en la cabeza. O si tienen mil millones de líneas de código. Hablo con ellos. Y escucho lo que tienen que decir, y así es como decido qué es y no es una persona”.

Cuando Lemoine y un colega enviaron por correo electrónico un informe sobre la supuesta sensibilidad de LaMDA a 200 empleados de Google, los ejecutivos de la empresa rechazaron las acusaciones.

“Nuestro equipo, incluidos especialistas en ética y tecnólogos, revisaron las preocupaciones de Blake de acuerdo con nuestros Principios de IA y le informaron que la evidencia no respalda sus afirmaciones”, dijo Brian Gabriel, portavoz de Blake Google. El Correo de Washington.

“Le dijeron que no había evidencia de que LaMDA fuera susceptible (y [there was] mucha evidencia en su contra).

“Por supuesto, algunos en la comunidad de IA más amplia están considerando la posibilidad a largo plazo de una IA sensible o general, pero no tiene sentido hacerlo antropomorfizando los modelos conversacionales actuales, que no son sensibles”, agregó Gabriel.

“Estos sistemas imitan los tipos de intercambios que se encuentran en millones de oraciones y pueden modificar cualquier tema fantástico”.

En un comentario reciente en su perfil de LinkedIn, Lemoine dijo que muchos de sus colegas “no llegaron a conclusiones opuestas” con respecto a la sensibilidad de la IA. Afirma que los ejecutivos de la empresa rechazaron sus afirmaciones sobre la conciencia del robot “basándose en sus creencias religiosas”.

En una publicación del 2 de junio en su blog personal de Medium, Lemoine describió cómo enfrentó la discriminación de varios colegas y ejecutivos de Google debido a sus creencias como místico cristiano.

Leer de Lemoine entrada de blog completa para más.

Contenido relacionado:

5 usos intrigantes de la inteligencia artificial (que no son robots asesinos)

Máquinas superinteligentes: 7 futuros robóticos

De máquinas inteligentes a colonias espaciales: 5 visiones de ciencia ficción del futuro

Este artículo fue publicado originalmente por Ciencia viva. léelo articulo original aqui.

About the author

Admin

Leave a Comment