Agentes de IA en Auriculares, Siempre Escuchando para Asistencia Consciente del Contexto

Un equipo de investigadores de la Universidad de Michigan y la Universidad de Fudan ha presentado Buddie, un sistema de auriculares con inteligencia artificial de código abierto diseñado para mejorar las interacciones basadas en la voz incorporando el conocimiento del contexto.

Buddie utiliza una compresión eficiente de energía para reducir el consumo de energía durante la escucha continua. Dirigido por el profesor de Ingeniería Eléctrica y de Computación, Robert Dick, el proyecto lanzó una campaña en Kickstarter el 23 de diciembre para poner la tecnología a disposición de los consumidores y desarrolladores.

Buddie combina auriculares y una aplicación para smartphones para crear una interfaz de voz capaz de entender el contexto conversacional. El sistema escucha las conversaciones para recopilar información de fondo, permitiendo a los asistentes de IA proporcionar respuestas más precisas. Por ejemplo, podría recordar un nombre mencionado recientemente o resumir tareas de una reunión.

Según Dick, la conciencia del contexto aborda una limitación significativa en los sistemas de IA actuales, que a menudo requieren que los usuarios proporcionen repetidamente información de fondo. Buddie tiene como objetivo agilizar estas interacciones permitiendo a los asistentes de IA acceder al contexto necesario.

Los auriculares Buddie ofrecen la integración de la inteligencia artificial en la vida diaria, convirtiendo a ChatGPT u otros agentes de IA en un asistente personal consciente del contexto. Al escuchar continuamente, Buddie proporciona a los sistemas de IA el contexto que necesitan para entregar respuestas personalizadas sin requerir que los usuarios expliquen repetidamente su situación.

Esta interacción manos libres soporta la comunicación por voz, asegurando que los usuarios puedan interactuar con la IA en cualquier momento y lugar. Buddie incluye auriculares inteligentes y una aplicación móvil de código abierto para iOS y Android, que soporta agentes de IA como ChatGPT. También están disponibles servicios premium de terceros opcionales, permitiendo a los usuarios personalizar su experiencia.

Diseñado para el trabajo y el uso personal, Buddie tiene como objetivo mejorar la productividad mediante la transcripción y resumen de reuniones, la captura de tareas pendientes y la provisión de sugerencias rápidas y relevantes durante las conversaciones.

Por ejemplo, si tu jefe menciona una palabra desconocida, Buddie proporciona rápidamente su definición. Se integra con diversas plataformas de reuniones, incluyendo Zoom y Microsoft Teams, ofreciendo soporte para diversos estilos de comunicación.

Más allá del lugar de trabajo, Buddie ayuda en la vida cotidiana aprendiendo las preferencias del usuario y ofreciendo sugerencias personalizadas. Proporciona resúmenes diarios para reflexionar sobre logros, seguir tareas y destacar momentos significativos.

Los investigadores afirman que los auriculares Buddie están diseñados para proteger la privacidad del usuario mientras proporcionan un reconocimiento del contexto impulsado por la IA. Los datos de audio son capturados y transmitidos inalámbricamente a la aplicación para smartphones de Buddie, donde se transcriben a texto y se eliminan en cuestión de segundos.

Las transcripciones están encriptadas y almacenadas localmente en el dispositivo del usuario, lo que evita el acceso no autorizado. Los datos no se transmiten a servidores remotos a menos que el usuario lo solicite explícitamente. Para aquellos que optan por utilizar servicios de IA de terceros

La capacidad de escucha continua de Buddie también plantea desafíos técnicos, particularmente en el consumo de energía. Para abordar esto, los auriculares emplean técnicas de compresión eficientes en términos de energía para reducir la tensión en las baterías.

El enfoque de código abierto del proyecto fomenta a los usuarios y desarrolladores a explorar nuevas aplicaciones, modificar software y contribuir a su desarrollo. Buddie está disponible a un costo de 40 dólares para los primeros patrocinadores.

Sin embargo, por innovador que sea el diseño consciente del contexto de Buddie, resalta las crecientes preocupaciones en el ámbito de la ciberseguridad. Los expertos en ciberseguridad de Morphisec advierten que los atacantes están aprovechando cada vez más los sistemas de IA generativos para explotar capacidades avanzadas como las que se encuentran en los dispositivos conscientes del contexto.

Por ejemplo, las técnicas de extracción de modelos podrían usarse potencialmente para ingeniería inversa en sistemas de IA, imitando su comportamiento para obtener percepciones no autorizadas o lanzar ataques sofisticados.

La capacidad de escucha continua de Buddie también plantea preguntas sobre vulnerabilidades como los ataques de inyección de indicaciones. Manipulando las indicaciones de un sistema de IA, los atacantes podrían potencialmente forzarlo a generar resultados dañinos o no deseados, según lo informado por Morphisec.

Modelos avanzados de IA, similares a los que permiten la funcionalidad consciente del contexto de Buddie, pueden elaborar indicaciones adaptativas, eludiendo filtros para identificar estrategias de ataque exitosas, dice Morphisec.

Las futuras iteraciones de Buddie tienen como objetivo mejorar las características de privacidad, incorporar inteligencia a bordo y proporcionar opciones para seleccionar sistemas de IA con políticas de protección de datos más robustas. Por ahora, el enfoque sigue siendo perfeccionar las interacciones basadas en audio y entender el potencial de la IA consciente del contexto en el uso cotidiano.