Menos de seis meses después de haber implementado varias funciones de inteligencia artificial en sus dispositivos, Apple decidió desactivar una de sus características más destacadas: la agregación y el resumen de notificaciones de noticias. La decisión fue anunciada el jueves en una actualización de software dirigida a los desarrolladores, después de que la funcionalidad generara informaciones incorrectas que podían inducir a errores graves.
Uno de los incidentes más notorios que desencadenó la desactivación ocurrió en diciembre, cuando la BBC alertó a Apple sobre un error en la interpretación de una noticia. La notificación original informaba sobre la detención de Luigi Mangione por el asesinato de Brian Thompson, un ejecutivo de seguros médicos en Nueva York. Sin embargo, algunos dispositivos iPhone resumieron incorrectamente la noticia con la frase: “Luigi Mangione se dispara”, una información completamente errónea que pudo haber generado confusión y pánico entre los lectores.
A raíz del suceso, la BBC fue una de las primeras organizaciones en solicitar a Apple que realizara cambios en el software, argumentando que errores de este tipo podían dañar la credibilidad de las noticias y afectar la confianza del público en la información que recibe.
Ante la creciente preocupación por la fiabilidad de la función de resúmenes de noticias, Apple no solo decidió desactivarla, sino que también anunció una medida adicional para mitigar posibles problemas futuros. Los usuarios que hayan optado por recibir resúmenes de notificaciones de otras aplicaciones recibirán una advertencia indicando que la función aún está en desarrollo y que podría presentar errores.
“Estamos comprometidos con la mejora continua de nuestras herramientas de inteligencia artificial y trabajamos activamente para garantizar que nuestras funciones proporcionen información precisa y confiable”, declaró un portavoz de Apple. La compañía tiene previsto volver a ofrecer esta función en una futura actualización de software.
Un problema recurrente en la IA
La función de resúmenes defectuosos es el último de una serie de problemas que han empañado los nuevos productos de inteligencia artificial. El año pasado, Google presentó un chatbot que recomendaba comer piedras y usar pegamento para hacer pizza. Humane, una empresa emergente que recaudó 240 millones de dólares por un dispositivo llamado AI Pin, fue criticada por la crítica técnica porque su sistema a veces respondía a las peticiones de forma imprecisa. Meta también tuvo problemas con la generación de imágenes, debido al mal uso y las consecuencias que podría generar sobre terceros.
Le recomendamos leer: El dispositivo de inteligencia artificial que pretende eliminar los smartphones
Los primeros problemas con los productos de inteligencia artificial alimentan las dudas sobre el potencial de la tecnología a corto plazo. La tecnología, que puede responder a preguntas, crear imágenes y escribir código, es popular por su potencial para trastornar los negocios y crear billones de dólares en valor económico. Pero algunos en Wall Street y Silicon Valley expresan sus dudas sobre si la IA producirá rápidamente suficientes beneficios para justificar sus asombrosos costes. “Es difícil, es pronto y todavía no hay una propuesta de valor clara para los consumidores en general”, dijo Ben Bajarin, director ejecutivo de Creative Strategies, una empresa de investigación tecnológica al New York Times. “Va a llevar tiempo y va a ser un proceso muy lento.”
Suresh Venkatasubramanian, profesor de la Universidad de Brown y coautor del Plan de la Casa Blanca para una Declaración de Derechos de la Inteligencia Artificial, explicó a la CNN que los modelos de lenguaje amplio, la tecnología que hay detrás de las herramientas de IA, se entrenan para responder a las entradas utilizando “una respuesta que suene creíble”: “Así que, en ese sentido, cualquier respuesta que suene verosímil, ya sea exacta o real o inventada o no, es una respuesta razonable, y eso es lo que produce”, dijo.
Dos años después del lanzamiento de ChatGPT, las alucinaciones de la IA siguen apareciendo. Un estudio de julio de 2024 de Cornell, la Universidad de Washington y la Universidad de Waterloo descubrió que todavía no se puede confiar plenamente en los mejores modelos de IA dada su proclividad a inventar información.
Desafíos en la IA de Apple
Apple fue una de las últimas grandes empresas tecnológicas en sumarse a la carrera desenfrenada de la inteligencia artificial. El año pasado, la empresa presentó los iPhones con un sistema de software de inteligencia artificial llamado Apple Intelligence. Según la empresa, el sistema sería capaz de ordenar mensajes, ofrecer sugerencias de redacción y crear una Siri más capaz impulsada por inteligencia artificial generativa.
Pero estas funciones no estaban disponibles en los iPhone que Apple comenzó a comercializar en septiembre. En cambio, en los últimos meses, la empresa ha ido incorporando gradualmente algunas funciones, como herramientas para mejorar los correos electrónicos y la posibilidad de acceder al chatbot ChatGPT de OpenAI a través de Siri.
Le podría interesar: Claves de Apple para 2025: las estrategias y productos que marcarán su futuro
La gran apuesta de Apple el año anterior fue sin lugar a dudas Apple Intelligence por varios motivos. Por un lado, están sus máximos competidores, Samsung y Google, empresas que han logrado posicionar sus funciones y herramientas de IA generativa en los dispositivos móviles de mejor manera y con mucha mayor antelación. De igual forma, la necesidad de evolucionar en el sistema operativo y de brindarles algo fresco a sus fieles usuarios. Los últimos cambios de generación en generación de iPhone podrían considerarse mínimos, en algunos casos casi irrelevantes.
Aunque esta desactivación representa un revés temporal, Apple insiste en que seguirá perfeccionando sus sistemas para relanzar la función en una versión más refinada en el futuro. Los desarrolladores y usuarios están a la espera de una solución mejorada que permita disfrutar de los beneficios de la inteligencia artificial sin comprometer la exactitud de la información.
👽👽👽 ¿Ya está enterado de las últimas noticias de tecnología? Lo invitamos a visitar nuestra sección en El Espectador.