La Casa Blanca anunció el pasado viernes que Apple ha firmado un acuerdo con más de una docena de compañías tecnológicas para cumplir con nuevas reglas destinadas a mitigar los riesgos asociados con la inteligencia artificial (IA) generativa. Este compromiso sigue a una iniciativa lanzada hace un año que incluye a empresas líderes como Amazon, Google, Microsoft y OpenAI.
La administración del presidente Joe Biden subrayó que el acuerdo busca avanzar hacia un desarrollo de IA más seguro y transparente. Las salvaguardas acordadas abarcan la simulación de ataques en modelos de IA, conocida como «red teaming», para identificar y abordar posibles vulnerabilidades en estos sistemas.
Apple, que recientemente lanzó Apple Intelligence, una plataforma diseñada para optimizar el uso de IA generativa en dispositivos como el iPhone y la Mac, también ha anunciado una próxima alianza con OpenAI. Esta colaboración permitirá que la aplicación ChatGPT esté disponible en los teléfonos inteligentes de Apple a pedido del usuario.
Aunque la IA generativa promete importantes avances en campos como la medicina, también plantea preocupaciones sobre la desinformación, la pérdida de empleos y el robo de propiedad intelectual. Además, existe preocupación por el potencial uso de la IA por parte de regímenes autoritarios o grupos criminales.
El compromiso de las empresas incluye compartir información sobre los riesgos de la IA y las tentativas de evadir las medidas de seguridad, así como la implementación de estándares de seguridad más rigurosos.
La Casa Blanca destacó que el presidente Biden firmó una orden ejecutiva a finales del año pasado que establece nuevos estándares para los sistemas de IA, la más extensa jamás adoptada para proteger a los ciudadanos de los posibles peligros asociados con esta tecnología.
Con estos esfuerzos, la administración Biden busca garantizar un desarrollo responsable de la IA, abordando tanto los beneficios potenciales como los riesgos emergentes asociados con esta innovadora tecnología.