Intel se une a Georgia Tech en el programa DARPA para mitigar los ataques de engaño del machine learning

Intel se une a Georgia Tech en el programa DARPA para mitigar los ataques de engaño del machine learning

Esta labor conjunta que tendrá una duración de cuatro años para mejorar las defensas de ciberseguridad contra los ataques de engaño en los modelos de machine learning.

Intel y el Instituto Tecnológico de Georgia (Georgia Tech) fueron seleccionados para dirigir un equipo del programa garantizando la robustez de la inteligencia artificial (IA) contra el engaño (GARD) para la Agencia de Proyectos de Investigación Avanzados de Defensa (DARPA). Intel es el principal contratista en esta labor conjunta que tiene un costo multimillonario y una duración de cuatro años para mejorar las defensas de ciberseguridad contra los ataques de engaño en los modelos de machine learning.

Intel y Georgia Tech están trabajando juntos para avanzar en la comprensión colectiva del ecosistema y en la capacidad de mitigación contra las vulnerabilidades de la inteligencia artificial y el machine learning. Mediante la investigación innovadora en técnicas de coherencia estamos colaborando en un enfoque para mejorar la detección de objetos y mejorar la capacidad de la inteligencia artificial y el machine learning para actuar ante los ataques adversos”, dijo Jason Martin, ingeniero principal de Intel Labs e investigador principal para el programa DARPA GARD de Intel.

Aún cuando son poco frecuentes, los ataques adversos intentan engañar, alterar o corromper la interpretación de datos del algoritmo de machine learning. Como los modelos de IA y machine learning son incorporados cada vez más en los sistemas semiautónomos y autónomos, es fundamental mejorar continuamente la estabilidad, seguridad y protección de interacciones inesperadas o engañosas.

Por ejemplo, las clasificaciones e interpretaciones erróneas de la inteligencia artificial en cuanto a pixeles podrían dar lugar a una mala interpretación de las imágenes y escenarios de identificación incorrectos, o las modificaciones sutiles a los objetos del mundo real podrían confundir a los sistemas de percepción de la IA. El programa GARD ayudará a que las tecnologías de inteligencia artificial y machine learning estén mejor equipadas para defenderse contra posibles ataques futuros.

Miembros de Intel Labs muestran un ejemplo de cómo la Inteligencia Artificial se confunde con una remera contradictoria..

Los esfuerzos de defensa actuales están diseñados para proteger contra ataques adversos específicos y predefinidos, pero siguen siendo vulnerables a los ataques cuando son puestos a prueba fuera de sus parámetros de diseño específicos. GARD pretende plantear la defensa del machine learning de forma diferente: desarrollando defensas amplias que aborden los numerosos ataques posibles en escenarios tales que podrían hacer que un modelo de AA clasifique o interprete mal los News Byte datos.

Te puede interesar  Sofía Vergara, Gael García y Shakira son las celebridades más peligrosas

Debido a su amplia huella arquitectónica y liderazgo en seguridad Intel se encuentra en una posición única para ayudar a impulsar innovaciones en la tecnología de inteligencia artificial y machine learning con una participación significativa en el resultado.

La meta del programa GARD es establecer fundamentos teóricos del sistema de machine learning que no solo identifiquen las vulnerabilidades del sistema y caractericen las propiedades para mejorar la robustez del sistema, sino que también promuevan la creación de defensas efectivas.

A través de estos elementos del programa, GARD tiene el objetivo de crear tecnologías de machine learning resistentes al engaño con estrictos criterios para evaluar su eficacia.

En la primera etapa del programa GARD, Intel y Georgia Tech están mejorando las tecnologías de detección de objetos a través de la coherencia espacial, temporal y semántica, tanto para imágenes fijas como para videos. Intel está comprometida a impulsar la innovación de la IA y el AA y considera que trabajar con investigadores de seguridad calificados de todo el mundo es una parte crucial para abordar las vulnerabilidades de seguridad potenciales para la industria en general y nuestros clientes.

Print Friendly, PDF & Email

Ultimas Noticias

Deje su comentario

Su dirección de correo no será publicada. Los campos obligatorios están marcados con *

Cancelar respuesta

+ Leídas

+ Comentadas


Videos Destacados

Tipo de error: "Forbidden". Mensaje de error: "The request cannot be completed because you have exceeded your quota." Dominio: "youtube.quota". Razón: "quotaExceeded".

Did you added your own Google API key? Look at the help.

Comprueba en YouTube si el id UC8nOuNcjMh0JO1VR8vMCO4A corresponde a un channelid. Revise el FAQ del plugin or envíe los mensajes de error a support.


Las compañías mexicanas confían demasiado en su protección contra ataques cibernéticos

Cerca del 80% de las compañías mexicanas afirma que su protección está por encima del promedio.

Cerrar