{"id":218,"date":"2024-02-19T14:54:49","date_gmt":"2024-02-19T14:54:49","guid":{"rendered":"https:\/\/digitalmarketla.com\/web\/?p=218"},"modified":"2024-02-19T14:56:20","modified_gmt":"2024-02-19T14:56:20","slug":"como-fortalecer-las-defensas-en-la-era-de-la-ia","status":"publish","type":"post","link":"https:\/\/digitalmarketla.com\/web\/2024\/02\/19\/como-fortalecer-las-defensas-en-la-era-de-la-ia\/","title":{"rendered":"Como fortalecer las defensas en la era de la IA"},"content":{"rendered":"\n

Por: Vasu Jakkal, vicepresidenta corporativa de seguridad, cumplimiento, identidad y gesti\u00f3n<\/em><\/p>\n\n\n\n

El mundo de la ciberseguridad experimenta una transformaci\u00f3n masiva. La IA est\u00e1 a la vanguardia de este cambio y tiene el potencial de capacitar a las organizaciones para derrotar los ciberataques a la velocidad de las m\u00e1quinas, abordar la escasez de talento cibern\u00e9tico e impulsar la innovaci\u00f3n y la eficiencia en ciberseguridad. Sin embargo, los adversarios pueden usar la IA como parte de sus actividades, y nunca ha sido m\u00e1s importante para nosotros proteger nuestro mundo a trav\u00e9s de la utilizaci\u00f3n de la IA y asegurar la IA para nuestro mundo.<\/p>\n\n\n\n

Hoy publicamos la sexta edici\u00f3n de Cyber Signals, en la que destacamos c\u00f3mo protegemos las plataformas de IA de las amenazas emergentes relacionadas con los actores de ciberamenazas de los estados-naci\u00f3n.<\/p>\n\n\n\n

En colaboraci\u00f3n con OpenAI, compartimos informaci\u00f3n sobre los actores de amenazas afiliados al estado rastreados por Microsoft, como Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon y Salmon Typhoon, que han buscado usar grandes modelos de lenguaje (LLM, por sus siglas en ingl\u00e9s) para aumentar sus operaciones de ciberataques en curso. Esta importante investigaci\u00f3n expone los primeros movimientos incrementales que observamos que estos conocidos actores de amenazas toman alrededor de la IA y se\u00f1ala c\u00f3mo bloqueamos su actividad para proteger las plataformas y los usuarios de IA.<\/p>\n\n\n\n

Tambi\u00e9n anunciamos los principios de Microsoft<\/a> que gu\u00edan nuestras acciones para mitigar los riesgos de las amenazas persistentes avanzadas de los estados-naci\u00f3n, los manipuladores persistentes avanzados y los sindicatos de ciberdelincuentes que utilizan plataformas y API de inteligencia artificial. Estos principios incluyen la identificaci\u00f3n y la acci\u00f3n contra el uso de amenazas maliciosas, la notificaci\u00f3n a otros proveedores de servicios de IA, la colaboraci\u00f3n con otras partes interesadas y la transparencia.<\/p>\n\n\n\n

Adem\u00e1s, Microsoft ayuda a la comunidad de seguridad en general a comprender y detectar las perspectivas emergentes de los LLM en la actividad de ataque. Continuamos el trabajo con MITRE para integrar estas t\u00e1cticas, t\u00e9cnicas y procedimientos (TTP, por sus siglas en ingl\u00e9s) con tem\u00e1tica de LLM en el marco MITRE ATT&CK\u00ae<\/a> o en la base de conocimientos MITRE ATLAS\u2122<\/a> (Panorama de amenazas adversarial para sistemas de inteligencia artificial). Esta expansi\u00f3n estrat\u00e9gica refleja el compromiso no solo de rastrear y neutralizar las amenazas, sino tambi\u00e9n de ser pioneros en el desarrollo de contramedidas en el panorama cambiante de las operaciones cibern\u00e9ticas impulsadas por IA.<\/p>\n\n\n\n

Esta edici\u00f3n de Cyber Signals comparte informaci\u00f3n sobre c\u00f3mo los actores de amenazas usan la IA para refinar sus ataques y tambi\u00e9n c\u00f3mo usamos la IA para proteger a Microsoft.<\/p>\n\n\n\n

Los ciberdelincuentes y los actores patrocinados por el Estado recurren a la IA, incluidos los LLM, para mejorar su productividad y aprovechar las plataformas que pueden promover sus objetivos y t\u00e9cnicas de ataque. Aunque los motivos y la sofisticaci\u00f3n de los actores de amenazas var\u00edan, comparten tareas comunes a la hora de desplegar ataques. Estos incluyen el reconocimiento, como la investigaci\u00f3n de las industrias, ubicaciones y relaciones de las posibles v\u00edctimas; codificaci\u00f3n, incluida la mejora de los scripts de software y el desarrollo de malware; y asistencia en el aprendizaje y uso de lenguajes humanos y de m\u00e1quinas. Nuestra investigaci\u00f3n con OpenAI<\/a> no ha identificado ataques significativos que empleen los LLM que monitoreamos de cerca.<\/p>\n\n\n\n

Microsoft utiliza varios m\u00e9todos para protegerse de este tipo de ciberamenazas, incluida la detecci\u00f3n de amenazas habilitada por IA para detectar cambios en la forma en que se usan los recursos o el tr\u00e1fico en la red; an\u00e1lisis de comportamiento para detectar inicios de sesi\u00f3n de riesgo y comportamientos an\u00f3malos; modelos de aprendizaje autom\u00e1tico para detectar inicios de sesi\u00f3n de riesgo y malware; Zero Trust<\/a>, donde cada solicitud de acceso debe estar autenticada, autorizada y cifrada por completo; y el estado del dispositivo que se debe verificar antes de que un dispositivo pueda conectarse a la red corporativa.<\/p>\n\n\n\n

Adem\u00e1s, la IA generativa tiene un potencial incre\u00edble para ayudar a todos los defensores a proteger sus organizaciones a la velocidad de las m\u00e1quinas. El papel de la IA en la ciberseguridad es multifac\u00e9tico e impulsa la innovaci\u00f3n y la eficiencia en varios \u00e1mbitos. Desde la mejora de la detecci\u00f3n de amenazas hasta la optimizaci\u00f3n de la respuesta a incidentes, las capacidades de la IA remodelan la ciberseguridad. El uso de LLM en ciberseguridad es un testimonio del potencial de la IA. Estos modelos pueden analizar grandes cantidades de datos para descubrir patrones y tendencias en las amenazas cibern\u00e9ticas, lo que agrega un contexto valioso a la inteligencia de amenazas. Ayudan en tareas t\u00e9cnicas como la ingenier\u00eda inversa y el an\u00e1lisis de malware, lo que proporciona una nueva capa de defensa contra los ciberataques. Por ejemplo, los usuarios de Microsoft Copilot for Security<\/a> han mostrado un aumento del 44% en la precisi\u00f3n en todas las tareas y una tasa de finalizaci\u00f3n un 26% m\u00e1s r\u00e1pida. Estas cifras ponen de manifiesto los beneficios tangibles de integrar la IA en las pr\u00e1cticas de ciberseguridad.1<\/p>\n\n\n\n

A medida que aseguramos el futuro de la IA<\/a>, debemos reconocer la naturaleza dual de la tecnolog\u00eda: aporta nuevas capacidades y nuevos riesgos. La IA no es solo una herramienta, sino un cambio de paradigma en la ciberseguridad. Nos permite defendernos de las ciberamenazas sofisticadas y adaptarnos al panorama din\u00e1mico de amenazas. Al adoptar la IA, podemos ayudar a garantizar un futuro seguro para todos.<\/p>\n","protected":false},"excerpt":{"rendered":"

El mundo de la ciberseguridad experimenta una transformaci\u00f3n masiva. La IA est\u00e1 a la vanguardia de este cambio y tiene el potencial de capacitar a las organizaciones para derrotar los ciberataques a la velocidad de las m\u00e1quinas<\/p>\n","protected":false},"author":3,"featured_media":222,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_et_pb_use_builder":"off","_et_pb_old_content":"","_et_gb_content_width":"","_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[4],"tags":[],"class_list":["post-218","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-voces-expertas","et-has-post-format-content","et_post_format-et-post-format-standard"],"jetpack_featured_media_url":"https:\/\/digitalmarketla.com\/web\/wp-content\/uploads\/2024\/02\/mojahid-mottakin-C1dhxBtJYQk-unsplash.jpg","jetpack-related-posts":[],"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/digitalmarketla.com\/web\/wp-json\/wp\/v2\/posts\/218","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/digitalmarketla.com\/web\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/digitalmarketla.com\/web\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/digitalmarketla.com\/web\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/digitalmarketla.com\/web\/wp-json\/wp\/v2\/comments?post=218"}],"version-history":[{"count":1,"href":"https:\/\/digitalmarketla.com\/web\/wp-json\/wp\/v2\/posts\/218\/revisions"}],"predecessor-version":[{"id":220,"href":"https:\/\/digitalmarketla.com\/web\/wp-json\/wp\/v2\/posts\/218\/revisions\/220"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/digitalmarketla.com\/web\/wp-json\/wp\/v2\/media\/222"}],"wp:attachment":[{"href":"https:\/\/digitalmarketla.com\/web\/wp-json\/wp\/v2\/media?parent=218"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/digitalmarketla.com\/web\/wp-json\/wp\/v2\/categories?post=218"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/digitalmarketla.com\/web\/wp-json\/wp\/v2\/tags?post=218"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}