[Microsoft demanda a organizaciones de redes extranjeras por utilizar inteligencia artificial para difundir contenido dañino] Según Cryptoslate, según un anuncio del 10 de enero, Microsoft ha presentado una demanda destinada a combatir los abusos cibernéticos de la tecnología de inteligencia artificial generativa. La acción legal se inició en el Distrito Este de Virginia contra un grupo de amenazas extranjero al que se acusa de eludir las medidas de seguridad de los servicios de inteligencia artificial para producir contenidos nocivos e ilegales.
La Unidad de Delitos Digitales (DCU) de Microsoft destacó que los acusados ​​desarrollaron herramientas que aprovecharon las credenciales de clientes robadas para otorgar acceso no autorizado a servicios generados por IA. Estas funciones de IA modificadas luego se revendieron con instrucciones para su uso malicioso. La demanda alega que las actividades de los ciberdelincuentes violaron la ley estadounidense y la Política de uso aceptable de Microsoft. Como parte de la investigación, Microsoft confiscó sitios web centrales para la operación, que según dijo ayudarían a identificar a los perpetradores, alterar su infraestructura y analizar cómo se monetizaron los servicios. En respuesta a estos incidentes, Microsoft ha reforzado sus medidas de protección de la IA y ha implementado medidas adicionales de mitigación de seguridad en su plataforma. La empresa también revocó el acceso de actores maliciosos e implementó contramedidas para frustrar futuras amenazas.