هوش مصنوعی اکنون بسیاری از مراحل حملات سایبری را خودکار کرده است. هکرها با استفاده از آن کدهای مخرب می‌نویسند، آسیب‌پذیری‌ها را شناسایی می‌کنند و پیام‌های فیشینگ شخصی‌سازی‌شده می‌سازند. این روند قدرت آن‌ها را به‌طور چشمگیری افزایش می‌دهد و کارشناسان امنیت را نگران کرده است.

بررسی‌ها نشان می‌دهد مدل‌های زبانی هوش مصنوعی ایمیل‌هایی تولید می‌کنند که نرخ کلیک ۵۴ درصدی دارند، در حالی که فیشینگ‌های سنتی فقط ۱۲ درصد موفقیت دارند. متخصصان می‌گویند این برتری به‌دلیل توانایی هوش مصنوعی در تقلید لحن طبیعی و تنظیم پیام‌ها برای هر گیرنده است.

گزارش‌ها حاکی از آن است که برخی دولت‌ها از فناوری‌های هوش مصنوعی برای جاسوسی سایبری، ساخت بدافزار و نفوذ به شبکه‌ها استفاده می‌کنند. در یک نظرسنجی، نیمی از سازمان‌های زیرساختی حیاتی گفتند که مهاجمان در سال گذشته با استفاده از هوش مصنوعی به سامانه‌های آن‌ها حمله کرده‌اند.

در سوی دیگر، حدود ۸۰ درصد از شرکت‌های بزرگ جهان از هوش مصنوعی برای تقویت سامانه‌های دفاعی خود استفاده می‌کنند. با این حال، کارشناسان هشدار می‌دهند که مهاجمان به‌زودی از سیستم‌های کاملاً خودکار و مستقل بهره خواهند گرفت؛ سیستم‌هایی که می‌توانند پیش از شناسایی، تولید کارخانه‌ها، خدمات بیمارستانی و شبکه‌های برق را از کار بیندازند.

در نتیجه، نبرد میان مهاجمان و مدافعان دیجیتال وارد مرحله‌ای تازه شده است؛ مرحله‌ای که در آن، هوش مصنوعی علاوه بر نقش سازنده در پیشرفت فناوری، به یکی از مهم‌ترین عوامل تهدید امنیت جهانی نیز تبدیل شده است.