El asistente de Google: “Ok Google, dispara mi arma”

Para bien o para mal, Google Assistant puede hacerlo todo. Desde tareas mundanas como encender las luces y establecer recordatorios hasta imitar de forma convincente los patrones del habla humana, el ayudante de IA es tan capaz que da miedo. Su √ļltima habilidad (no oficial), sin embargo, es un poco m√°s siniestra. El artista Alexander Reben recientemente ense√Ī√≥ a su asistente a disparar un arma.

Afortunadamente, la v√≠ctima era una manzana, no un ser vivo. El video de 30 segundos, simplemente titulado “Google Shoots”, muestra a Reben diciendo “OK Google, activa el arma”. Apenas un segundo despu√©s, suena un timbre, el arma se dispara y el asistente responde: “Claro, enciende el arma”.

En la superficie, el metraje es poco abrumador. Es obvio que este proyecto tiene la intención de provocar una conversación sobre los límites de lo que la IA debería poder hacer.

Como Reben le dijo a la TV, “el discurso sobre tal aparato es m√°s importante que su presencia f√≠sica.” Para este proyecto eligi√≥ utilizar Google Assistant, pero dijo que podr√≠a haber sido un Amazon Echo “o alg√ļn otro dispositivo”. Al mismo tiempo, el dispositivo disparado “podr√≠a haber sido una silla de masaje en la espalda o un fabricante de helados.”

Google Assistant y la Inteligencia Artificial

Pero Reben eligió dotar a Assistant con un arma. Y dadas las preocupaciones planteadas por la IA Duplex de Google desde E/S a principios de este mes, así como los aparentemente interminables tiroteos masivos en Estados Unidos, su decisión es muy astuta.

En este ejemplo, Reben fue quien le dijo a Assistant que “activara el arma”. Sigue siendo el responsable de la acci√≥n. Pero en un mundo en el que el aprendizaje de la m√°quina ha llevado a la IA lo suficientemente inteligente como para anticiparse a nuestras necesidades y satisfacer nuestra comodidad todos los d√≠as, no es dif√≠cil imaginar un d√≠a en el que los asistentes digitales puedan matar a las personas que nos molestan, si se les da acceso a las armas. ¬ŅQui√©n es responsable de las muertes entonces?

Es f√°cil decir que deber√≠amos bloquear el acceso de la IA a dispositivos peligrosos. Pero ya los tenemos en nuestros coches, en el ej√©rcito y en otros lugares en los que probablemente ni siquiera hemos pensado. Podemos exigir a las compa√Ī√≠as que se aseguren de que su tecnolog√≠a no pueda causar da√Īo, pero es simplemente imposible planear para cada eventualidad, de todas las maneras posibles en que la IA pueda volverse corrupta.

Parte del mensaje para mí incluye las consecuencias imprevistas de la tecnología y la inutilidad de considerar cada caso de uso

Google podr√≠a no haberse imaginado nunca a Asistente siendo usado para disparar un arma. Pero todo lo que Reben necesit√≥ para conseguirlo fueron piezas en su estudio. Utiliz√≥ un rel√© de control que normalmente enciende una l√°mpara, la conecta a un altavoz de Google Home y luego conecta un solenoide de dispensaci√≥n de cambio de lavander√≠a para tirar de una cuerda que se enlaza alrededor del gatillo. “La instalaci√≥n fue muy f√°cil”, dijo Reben.

No es ajeno a las obras de arte con las habilidades de la inteligencia artificial. Reben ha creado proyectos que muestran lo que la IA oye y ve cuando se expone a “La Alegr√≠a de Pintar”, as√≠ como esconder peque√Īas obras de arte en URLs. Esta, sin embargo, es una pieza a√ļn m√°s provocativa que obliga al espectador a imaginar lo que podr√≠a pasar si programadores nefastos hicieran una IA que se volviera corrupta. Ahora, m√°s que nunca, tenemos que debatir sobre c√≥mo y si podemos evitar que una m√°quina inteligente nos mate a todos.

Ver vídeo

El asistente de Google: “Ok Google, dispara mi arma”
5 (100%) 1 vote