هوش مصنوعی AI صنایع متعددی را متحول کرده و بهره‌وری و نوآوری را با سرعتی بی‌سابقه افزایش داده است. از افزایش دسترسی به مراقبت‌های بهداشتی گرفته تا مدل‌سازی‌های آب و هوایی که به کاهش تأثیر رویدادها وتاثیرات آب و هوایی کمک می‌کند، و بهبود کارایی و امنیت در محل‌های کار و اجتماع و کمک به تسهیل امور همه بخش هایی از مزایای حضور هوش مصنوعی در زندگی ماست بعلاوه اینکه هوش مصنوعی نتایج بهتر و پایدارتری را ممکن می‌سازد. با این حال، همین فناوری متحول‌کننده برای اهداف جنایی نیز مورد استفاده قرار می‌گیرد و تهدیدات قابل توجهی را برای امنیت جهانی و ثبات اجتماعی ایجاد می‌کند. بازیگران بدخواه بطور قابل توجهی از هوش مصنوعی برای انجام هک و کلاهبرداری، ایجاد جعل اسناد، برای اخاذی و انتشار اطلاعات نادرست و انجام حملات سایبری در مقیاس وسیع استفاده می‌کنند.

با پیچیده‌تر شدن فناوری هوش مصنوعی، روش‌های سوءاستفاده مجرمان از آن نیز افزایش می‌یابد. این گزارش مراحل بلوغ جرایم مبتنی بر هوش مصنوعی افق، ظهور و بلوغ را بررسی می‌کند و نشان می‌دهد که چگونه هوش مصنوعی با حذف تنگناهای سنتی انسانی، قابلیت‌های مجرمانه را تقویت می‌کند.

نگاهی به نمونه‌های دنیای واقعی و موارد مستند هوش مصنوعی در فعالیت‌های مجرمانه خواهیم انداخت و شدت این چالش‌ها را بررسی می‌کنیم. و با تأکید بر اهمیت راه‌حل‌های فنی، مقررات، آموزش و همکاری، استراتژی‌هایی را برای پیشگیری و کاهش جرایم مبتنی بر هوش مصنوعی بررسی خواهیم کرد. هوش مصنوعی با حذف تنگناهای انسانی، رشد مجرمانه را ممکن می‌سازد. هوش مصنوعی در دنیای تجارت نفوذ کرده، صنایع را متحول کرده و قوانین کارایی و مقیاس کسب و کارها را بازنویسی کرده است. شرکت‌ها هوش مصنوعی را در مراحل مختلف به کار گرفته‌اند - با ابزارهای آماده‌ای مانند ChatGPT برای کمک به کارهایی مانند تهیه پیش‌نویس پاسخ‌ها، ترجمه اسناد یا خلاصه‌سازی داده‌ها روی آورده‌اند.

با گذشت زمان، سازمان‌ها شروع به توسعه سیستم‌های هوش مصنوعی اختصاصی برای خودکارسازی کل گردش‌های کاری کسب و کار خود کرده‌اند. اما این پیشرفت‌ها محدود به دنیای قانونی نیست. در سراسر جهان، شرکت‌هایی با اهداف منفی و مخالف قوانین صلح بشر در حال رقابت برای مهار ظرفیت هوش مصنوعی به همان شیوه هستند. در ابتدا، این سازمان‌ها برای کمک به تلاش‌های مجرمانه خود که توسط انسان هدایت می‌شوند، به هوش مصنوعی روی آوردند، اسکریپت‌های فیشینگ را به زبان‌های مختلف ترجمه کردند یا پایگاه‌های کد گسترده‌ای را برای یافتن آسیب‌پذیری‌های قابل سوءاستفاده اسکن کردند. این برنامه‌های اولیه، کاربردهای مشروع هوش مصنوعی را منعکس می‌کنند، اما به سلاحی با اثرات مخرب تبدیل شده‌اند. مرز بعدی برای مجرمان، خودمختاری است. همانطور که شرکت‌ها برای خودکارسازی وظایف تلاش می‌کنند، مجرمان سایبری می‌توانند عوامل هوش مصنوعی را توسعه دهند که قادر به عملکرد کاملاً مستقل هستند. این عوامل می‌توانند آسیب‌پذیری‌ها را بدون نظارت انسانی شناسایی و بهره‌برداری کنند و اهداف پیچیده‌ای مانند هک کردن زیرساخت‌های حیاتی (مانند تصفیه‌خانه‌های آب) را اجرا کنند. این تکامل نه تنها مقیاس عملیات مجرمانه را تغییر می‌دهد، بلکه اساساً آنها را تغییر شکل می‌دهد و آنها را سریع‌تر و زودبازده تر خواهد کرد و شناسایی یا مقابله با آنها را به طرز نگران‌کننده‌ای دشوار می‌کند. مجرمان سایبری از هوش مصنوعی به روش‌های جدیدی استفاده می‌کنند مجرمان سایبری، کلاهبرداران و بازیگران مختلف در این زمینه عامدانه از هوش مصنوعی برای تقویت فعالیت‌های مخرب خود استفاده می‌کنند. برخی از کاربردهای اصلی که آنها یافته‌اند عبارتند از: خودکارسازی حملات ابزارهای مبتنی بر هوش مصنوعی، خودکارسازی کمپین‌های فیشینگ را امکان‌پذیر می‌کنند و پیام‌های بسیار قانع‌کننده‌ای را در مقیاس بالا ایجاد می‌کنند. هوش مصنوعی همچنین به بدافزارها اجازه می‌دهد تا به صورت پویا سازگار شوند تا از تشخیص در زمان واقعی فرار کنند.

در مارس ۲۰۲۴، وزارت خزانه‌داری ایالات متحده گزارشی در مورد وضعیت فعلی هوش مصنوعی مرتبط با امنیت سایبری و خطرات کلاهبرداری در خدمات مالی منتشر کرد. این گزارش که مصاحبه‌هایی با ۴۲ موسسه مالی را ترتیب داد، بطور خاص به استفاده از هوش مصنوعی مولد توسط عوامل تهدید موجود برای توسعه و هدایت بدافزارهای پیچیده‌تر اشاره می‌کند که به آنها قابلیت‌های حمله پیچیده‌ای می‌دهد که قبلاً فقط در دسترس عاملان اصلی با منابع بیشتر و دسترسی کامل تر بود و به عاملان تهدید کم‌مهارت‌تر کمک می‌کند تا حملات ساده اما مؤثری را توسعه دهند. جعل اسناد و رسانه‌های مصنوعی مجرمان از فناوری برای جعل هویت مدیران یا چهره‌های عمومی و تصاویر و صداهای تولید شده توسط هوش مصنوعی استفاده می‌کنند که تشخیص کلاهبرداری‌ها را دشوارتر می‌کند و آنها را قادر می‌سازد تا کلاهبرداری‌های با ارزش بالا مانند هک ایمیل‌های تجاری BEC، اخاذی و دستکاری اجتماعی را تسهیل کنند. در نوامبر ۲۰۲۴، FinCEN خزانه‌داری ایالات متحده «هشدار در مورد طرح‌های کلاهبرداری شامل رسانه‌های جعلی که مؤسسات مالی را هدف قرار می‌دهند» را منتشر کرد و «افزایش گزارش‌های فعالیت‌های مشکوک توسط مؤسسات مالی را که استفاده مشکوک از رسانه‌های جعلی را در طرح‌های کلاهبرداری که مؤسسات و مشتریان آنها را هدف قرار می‌دهند» برجسته کرد.

مرحله بلوغ هوش مصنوعی فرا رسیده است و هوش مصنوعی جایگزین فعالیت‌های انسانی می‌شود

مرحله بلوغ نشان‌دهنده نقطه‌ای است که فعالیت‌های مبتنی بر هوش مصنوعی بر حوزه‌های مربوطه خود تسلط پیدا می‌کنند و مجرمان بیشتر از اینکه بوسیله انسان‌ها دچار جرم شوند، به سیستم‌های هوش مصنوعی متکی هستند.

سیستم‌های هوش مصنوعی به ابزارهای ضروری مانند مرورگرها، پایگاه‌های داده، پلتفرم‌های ایمیل و کیف پول‌های ارز دیجیتال دسترسی پیدا می‌کنند

مدل‌های مختلف هوش مصنوعی برای بهینه‌سازی اهداف خاص، مانند به حداکثر رساندن سود یا نفوذ در ابزارهای مالی نیز، برنامه‌ریزی می‌شوند

به عنوان مثال، در یک اکوسیستم ارز دیجیتال شرکت می‌کند و از طریق تعامل با عوامل انسانی و ربات، ثروت را در دارایی‌های دیجیتال جمع‌آوری می‌کند. این امر ظرفیت عوامل هوش مصنوعی را برای تعامل با اقتصادهای دیجیتال به روش‌هایی که به کلاهبرداری مداوم و در مقیاس بزرگ دامن می‌زند، برجسته می‌کند.

و با افزایش توانایی این سیستم‌ها، می‌توانند فعالیت‌های مجرمانه پیچیده‌تر و با تأثیر بالا مانند دستکاری‌های گسترده بازار یا سوءاستفاده از آسیب‌پذیری‌ها در زیرساخت‌های حیاتی را انجام دهند. نیاز به اقدامات پیشگیرانه برای نظارت و کاهش سوءاستفاده از هوش مصنوعی در این اشکال پیشرفته ضروری است.

پیشگیری و کاهش جرایم مبتنی بر هوش مصنوعی امری کاملاً اجتناب‌ناپذیر است. بنابراین مهم این است که چگونه می‌توانیم بین پذیرش فرصت و نوآوری ارائه شده توسط هوش مصنوعی و تضمین امنیت شهروندان و سیستم‌های جهانی خود تعادل برقرار کنیم؟

رسیدگی به سوءاستفاده از هوش مصنوعی نیاز به یک رویکرد چندوجهی دارد که ترکیبی از راه‌حل‌های فنی، اقدامات سیاستی و نظارتی، آموزش عمومی و همکاری است.

سیستم‌های تشخیص مبتنی بر هوش مصنوعی به عنوان یک دفاع حیاتی در برابر جرایم مبتنی بر هوش مصنوعی عمل می‌کنند. به عنوان مثال، ابزارهایی که جعل اسناد را شناسایی می‌کنند یا ناهنجاری‌ها را در تراکنش‌های مالی تشخیص می‌دهند، درحال‌حاضر مؤثر بوده‌اند. چارچوب‌های امنیت سایبری پیشرفته که تشخیص تهدید مبتنی بر هوش مصنوعی را ادغام می‌کنند، می‌توانند خطرات مرتبط با حملات در مقیاس بزرگ را نیز بیشتر کاهش دهند.

بنابراین بهترین عامل شناسایی عوامل مخرب در حیات اجتماعی استفاده از همان هوش مصنوعی خواهد بود، امید است به بهترین نحوی بتوانیم این ابزار شگفت‌انگیز فناوری را به‌خدمت انسان درآوریم.