El producto futurista más comentado de la convención para desarrolladores de Google ni siquiera está terminado todavía, y Google no ha acordado cómo hacerlo.
En la conferencia Google I/O realizada la semana pasada, la firma perteneciente a Alphabet Inc. mostró un anticipo de Duplex, un servicio experimental que permite a su asistente digital basado en voz agendar citas por su cuenta. Esta característica formaba parte de una serie de funciones, como la escritura automática en correos electrónicos,donde Google promocionaba la manera en que su tecnología de inteligencia artificial ahorra tiempo y esfuerzo a las personas.
En una demostración en el escenario, Google Assistant habló con la recepcionista de una peluquería, imitando las expresiones de pausa “eh…” y “mmm…” del habla humana. En otra demostración, conversó con un empleado de un restaurante para reservar una mesa.
La audiencia de codificadores de software vitoreo. Fuera de la burbuja tecnológica de Google, los críticos se abalanzaron. La compañía está colocando robots en conversaciones con humanos, sin que esas personas se den cuenta.
Pronto siguió la pregunta obvia: ¿El software de inteligencia artificial, que es lo suficientemente inteligente para engañar a los humanos, debería estar obligado a revelar su identidad? Los ejecutivos de Google aún no tienen una respuesta clara.
Duplex surgió en un momento delicado para las empresas de tecnología, y la función no ha ayudado a aliviar las dudas sobre su creciente poder sobre los datos, el software de automatización y las consecuencias para la privacidad y el trabajo.
“Horroroso”, escribió sobre Duplex en Twitter Zeynep Tufekci, profesor y crítico frecuente de las compañías tecnológicas. “Silicon Valley está éticamente perdido, sin rumbo y no ha aprendido nada”.
Al igual que en años anteriores, la compañía dio a conocer una función antes de que estuviera lista. Google aún está debatiendo como desplegarla y cuán humana hacer la tecnología, dijeron varios empleados durante la conferencia. Ese debate toca un dilema mucho más grande para Google: a medida que la compañía se apresura en desarrollar una inteligencia sorprendente, similar a la humana, está alerta ante cualquier error que haga que las personas pierdan la confianza en el uso de sus servicios.
Scott Huffman, ejecutivo del equipo de Google Assistant, dijo que la respuesta a Duplex fue variada. Algunas personas quedaron impresionadas por las demostraciones técnicas, mientras que otras se mostraron preocupadas por las implicaciones.
Huffman dijo que entiende las preocupaciones, pero no respalda una solución propuesta para el factor horroroso: darle una voz evidentemente robótica. “La gente probablemente colgará”, dijo. En una entrevista realizada el miércoles, Huffman sugirió que la máquina podría decir algo como: “Soy Google Assistant y estoy llamando a nombre de un cliente”. Hay más experimentos planificados para este verano boreal, señaló.
Otro empleado de Google que trabajaba en el asistente no estuvo de acuerdo. “No queremos fingir que es humano”, dijo el diseñador Ryan Germick al discutir sobre el asistente digital en una sesión de desarrolladores realizada el miércoles. Sin embargo, Germick si concordó en que el objetivo de Google era hacer al asistente lo suficientemente humano para mantener la atención de los usuarios.
El objetivo tácito: lograr que los usuarios sigan haciendo preguntas y compartiendo información con la empresa, la que puede usar para recopilar más datos y así mejorar sus respuestas y servicios.
Hay una delgada línea entre el objetivo de Google de hacer que su asistente parezca humano y no engañar a humanos reales con un software como Duplex. Google decidió conscientemente no darle al asistente verdaderos antecedentes humanos: cuando se le pregunta qué edad tiene o donde nació, el asistente o bien evita la pregunta o dice cosas inteligentes como “Nací en una reunión”.
Duplex fue diseñado para realizar una variedad limitada de tareas muy específicas. La tecnología de IA de Google no es lo suficientemente inteligente para aprender a hacer muchas otras cosas rápidamente. Si el humano al otro lado de la línea hiciera preguntas sobre algo más que peluquerías o restaurantes, Duplex no tendría una respuesta humana y bien podría terminar la llamada, dejando en claro que es un software.
Un empleado de Google lo comparó con el sistema de reserva de restaurantes en línea de OpenTable, que automatiza el proceso en línea; a nadie le preocupa que el sistema engañe a las personas aprendiendo a hacer otras tareas, señaló el empleado.