Ère du Machine Learning en cybersécurité : un pas vers un monde plus sûr ou au bord du chaos ?
"Alors que l'idée d'intelligence artificielle (IA) et les applications réelles de l'apprentissage automatique (ML) influencent divers domaines depuis des années, leur potentiel de transformation reste à réaliser.
Les technologies basées sur le ML aident de plus en plus à lutter contre la fraude à grande échelle, à évaluer et à optimiser les processus métier, à améliorer les procédures de test et à développer de nouvelles solutions aux problèmes existants. Comme la plupart des innovations, cependant, même l'apprentissage automatique présente des inconvénients.
Les attaquants reconnaissent les opportunités et la valeur de cette technologie et en abusent pour leur propre avantage. Si ce n’est pas déjà le cas, l’apprentissage automatique peut propulser de nouveaux virus, cibler des victimes spécifiques et extraire des données précieuses, rechercher les vulnérabilités «jour-jour» et protéger l’infrastructure propre des cybercriminels (comme les botnets).
De plus, les solutions ML déployées par des organisations légitimes deviendront également des cibles attrayantes. En créant des ensembles de données empoisonnées, les attaquants peuvent tenter de manipuler ces systèmes, sinon avantageux, en prenant des décisions incorrectes, ou les obliger à fournir des vues déformées de l'environnement surveillé, provoquant des dégâts, du chaos et des perturbations.
Il est difficile de dire quels effets de l’apprentissage automatique - positifs ou négatifs - l’emporteront. Cependant, nous constatons déjà une croissance indéniable des systèmes ML, des deux côtés de la fracture de la cybersécurité, transformant de manière irréversible la sécurité de l'ensemble de l'internet.
Ce document tente de décrire le battage publicitaire que la technologie d’apprentissage automatique a provoqué dans divers domaines et son influence sur les décideurs. Il décrit également les cyberattaques observées dans la nature qui montrent de forts indices d'utilisation de BC. Enfin, nous vous montrerons l’approche d’ESET en matière d’apprentissage automatique et son application dans les produits actuels d’ESET. "
Version originale :
"While the idea of artificial intelligence (AI) and the real applications of machine learning (ML) have been influencing various fields for years now, their full transformative potential is yet to be realized.
ML-based technologies increasingly help fight large-scale fraud, evaluate and optimize business processes, improve testing procedures and develop new solutions to existing problems. Like most innovations, however, even machine learning has drawbacks.
Attackers recognize the opportunities and value of this technology and misuse it for their own advantage. Machine learning can – if it isn’t already – power new malware strains, target specific victims and extract valuable data, hunt for zero-day vulnerabilities and protect the cybercriminals’ own infrastructure (such as botnets).
On top of that, ML solutions deployed by legitimate organizations will also become attractive targets. By creating poisoned data sets, attackers can try to manipulate these otherwise beneficial systems into incorrect decisions or force them to provide distorted views of the monitored environment, causing damage, chaos and disruption.
It is difficult to say which effects of machine learning – positive or negative – will prevail. What we see already, however, is an undeniable growth of ML-powered systems on both sides of the cybersecurity divide, irreversibly transforming the safety of the whole internet.
This document seeks to describe the hype that machine learning technology has caused in various fields and how it influences business decision makers. It also outlines cyberattacks observed in-the-wild that show strong indications of ML use. Last but not least, we’ll show you ESET’s approach to machine learning and its application in ESET’s current products."
