اگر جنگ علیه ایران به جنگی علیه حافظه هوش مصنوعی تبدیل شود، چه خواهد شد؟
دکتر شادی دالوند، توانانیوز_ المیادین در تحلیلی به بررسی یک سناریوی فرضی پرداخت و نوشت: اگر آمریکا یا نهادهای مرتبط با آن بخواهند نه‌تنها در میدان نظامی، بلکه در فضای اطلاعاتی نیز بر روایت جنگ علیه...
دکتر شادی دالوند، توانانیوز_ المیادین در تحلیلی به بررسی یک سناریوی فرضی پرداخت و نوشت: اگر آمریکا یا نهادهای مرتبط با آن بخواهند نه‌تنها در میدان نظامی، بلکه در فضای اطلاعاتی نیز بر روایت جنگ علیه ایران تأثیر بگذارند و از این طریق بر پاسخ‌های آینده سامانه‌های هوش مصنوعی اثر بگذارند، چه اتفاقی خواهد افتاد؟
به گزارش شفقنا، «قاسم محمد دنش» تحلیلگر عرب با طرح این پرسش، در المیادین نوشته است: در جنگ‌های مدرن، رقابت دیگر صرفاً بر سر کنترل ماهواره‌ها، حریم هوایی و شبکه‌های ارتباطی نیست؛ بلکه کنترل اطلاعاتی که هوش مصنوعی بر اساس آن رویدادها را تحلیل و بازگو می‌کند نیز می‌تواند به عرصه‌ای جدید از تقابل تبدیل شود.
متن کامل این مطلب را در ادامه می خوانید:
اگر جنگ علیه ایران به جنگی علیه حافظه هوش مصنوعی تبدیل شود، چه خواهد شد؟
اگر واشنگتن یا نهادهای مرتبط با آن تصمیم بگیرند خودِ محیط اطلاعاتی را هدف قرار دهند تا بر نحوه درک سامانه‌های هوش مصنوعی از جنگ علیه ایران تأثیر بگذارند، چه اتفاقی خواهد افتاد؟
در جنگ‌های مدرن، دیگر پرسش صرفاً این نیست که چه کسی بر ماهواره‌ها، حریم هوایی یا شبکه‌های ارتباطی تسلط دارد؛ بلکه عرصه‌ای تازه، کمتر آشکار و در عین حال خطرناک‌تر نیز پدید آمده است: چه کسی بر اطلاعاتی تسلط دارد که سامانه‌های هوش مصنوعی از طریق آن‌ها یاد می‌گیرند چه اتفاقی افتاده است؟
در اینجا، سناریویی فرضی و بسیار مهم در هرگونه رویارویی میان آمریکا و ایران مطرح می‌شود: اگر واشنگتن یا نهادهای مرتبط با آن تصمیم بگیرند محیط اطلاعاتی را هدف قرار دهند تا بر شیوه‌ای که سامانه‌های هوش مصنوعی جنگ علیه ایران را درک می‌کنند، تأثیر بگذارند، چه خواهد شد؟
منظور لزوماً نفوذ به ChatGPT یا تغییر الگوریتم یک مدل مشخص نیست، بلکه موضوعی پیچیده‌تر است: آلوده‌سازی منابع اطلاعاتی‌ای که ممکن است در دسترس مدل‌های هوش مصنوعی، موتورهای جست‌وجو و سامانه‌های بازیابی اطلاعات تقویت‌شده با هوش مصنوعی قرار گیرند.
از «گمراه‌سازی افکار عمومی» تا «گمراه‌سازی ماشین»
فریب اطلاعاتی سنتی، انسان را هدف قرار می‌دهد. یک نهاد یا طرف مشخص، با این امید که افکار عمومی آن را باور کند، خبری دروغ، تصویری جعلی یا روایتی گزینشی منتشر می‌کند.
اما مسموم‌سازی داده‌ها (Data Poisoning) خودِ مجموعه داده‌ها را هدف قرار می‌دهد.
مؤسسه ملی استانداردها و فناوری آمریکا (NIST)، مسموم‌سازی داده‌ها را وارد کردن داده‌های مخدوش یا خصمانه به یک سامانه یادگیری با هدف تأثیرگذاری بر رفتار مدل هوش مصنوعی تعریف می‌کند. این مؤسسه مشخصاً اشاره می‌کند که حملات مسموم‌سازی می‌توانند مدل‌های هوش مصنوعی مولد، از جمله مدل‌های متنی، را هدف قرار دهند و بر فرایند آموزش یا مراحل بعدی، مانند تنظیم مدل با دستورالعمل‌ها و یادگیری از طریق بازخورد، تأثیر بگذارند. (انتشارات NIST)
این موضوع راه را برای مفهومی گسترده‌تر باز می‌کند که می‌توان آن را «مسموم‌سازی محیط اطلاعاتی» نامید.
اگر اینترنت به یکی از منابعی تبدیل شود که سامانه‌های هوش مصنوعی برای پاسخ‌گویی به پرسش‌های روز به آن متکی هستند، تغییر و دست‌کاری خودِ محیط اطلاعاتی نیز می‌تواند به ابزاری غیرمستقیم برای تأثیرگذاری بر پاسخ‌های آینده تبدیل شود.
سناریوی ایران چگونه می‌تواند شکل بگیرد؟
فرض کنیم، صرفاً در قالب یک تحلیل فرضی، آمریکا بخواهد بر نحوه پاسخ‌گویی هوش مصنوعی به پرسش‌هایی از این دست تأثیر بگذارد:
در جنگ آمریکا و ایران چه اتفاقی افتاد؟ میزان خسارت‌های ایران چقدر بود؟ آیا موشک‌های ایرانی به اهداف آمریکایی اصابت کردند؟ سامانه‌های دفاعی ایران تا چه اندازه مؤثر بودند؟ در یک تأسیسات مشخص چه اتفاقی افتاد؟ چه کسی تنش‌ها را آغاز کرد؟ و میزان خسارت‌ها چقدر بود؟
در الگوی سنتی جنگ اطلاعاتی، هدف، کاربر است.
اما در سناریوی جدید، هدف می‌تواند سابقه اطلاعاتی‌ای باشد که هوش مصنوعی چند روز، چند ماه یا چند سال بعد برای پاسخ دادن به کاربر از آن استفاده خواهد کرد.
در اینجا، ماهیت نبرد کاملاً متفاوت می‌شود.
مرحله نخست: غرق کردن فضای اطلاعاتی
به‌جای انتشار یک خبر دروغ، می‌توان از نظر نظری حجم عظیمی از محتوای مشابه را در وب‌سایت‌ها، حساب‌های کاربری و مطالب مختلف منتشر کرد.
هدف این نیست که انسان تمام این اطلاعات را باور کند؛ بلکه هدف آن است که یک سامانه خودکار هنگام جست‌وجوی اطلاعات در آینده، با شمار زیادی از منابع ظاهراً مستقل روبه‌رو شود که در واقع همگی همان روایت واحد را بازتولید می‌کنند.
این مسئله اهمیت دارد؛ زیرا مدل‌های هوش مصنوعی و سامانه‌های جست‌وجوی مدرن با حجم عظیمی از متون و منابع سروکار دارند و هیچ سامانه‌ای قادر نیست تمام اطلاعات واردشده به این محیط را به‌صورت انسانی و تک‌به‌تک راستی‌آزمایی کند.
مؤسسه NIST مشخصاً هشدار می‌دهد که حجم زیاد داده‌های آموزشی و تنوع منابع آن‌ها، سطح گسترده‌ای از آسیب‌پذیری را در برابر حملات مسموم‌سازی داده‌ها ایجاد می‌کند. (انتشارات NIST)
مرحله دوم: ساختن «اجماع کاذب»
بزرگ‌ترین خطر لزوماً جعل یک خبر نیست؛ بلکه ایجاد این تصور است که درباره آن خبر، اجماعی عمومی وجود دارد.
سامانه بازیابی اطلاعات ممکن است با ده‌ها اشاره به همان روایت روبه‌رو شود.
اما وجود ده وب‌سایت لزوماً به معنای وجود ده منبع مستقل نیست. ممکن است همه آن‌ها در حال بازتولید همان منبع اولیه باشند.
مشکل اساسی همین‌جاست: هوش مصنوعی می‌تواند اطلاعات را گردآوری کند، اما همیشه قادر نیست تاریخچه تولید هر اطلاعات یا هویت افرادی را که پشت آن قرار دارند، تشخیص دهد.
مرحله سوم: تبدیل «دروغ تکرارشده» به «حقیقت ماشینی»
در این مرحله، سناریو خطرناک‌تر می‌شود.
یک انسان ممکن است بگوید: «این روایت در رسانه‌های آمریکایی مطرح شده است، اما ممکن است جانبدارانه باشد.»
اما کاربری که از یک سامانه هوش مصنوعی سؤال می‌کند، ممکن است پاسخی دریافت کند که بی‌طرفانه‌تر به نظر برسد؛ برای مثال:
«گزارش‌های موجود نشان می‌دهند که…»
مشکل اینجاست که عبارت «گزارش‌های موجود» ممکن است مجموعه‌ای از منابع را پنهان کند که همگی در حال بازتولید یک روایت واحد هستند.
به این ترتیب، فرایند گمراه‌سازی می‌تواند از این مسیر:
خبر ← افکار عمومی
به این مسیر تبدیل شود:
خبر ← اینترنت ← موتور جست‌وجو یا سامانه بازیابی اطلاعات ← مدل هوش مصنوعی ← افکار عمومی
اگر چنین وضعیتی تحقق یابد، هوش مصنوعی دیگر صرفاً انتقال‌دهنده اطلاعات نخواهد بود، بلکه می‌تواند به تقویت‌کننده و تکثیرکننده آن نیز تبدیل شود.
خطرناک‌ترین سناریو: «آلوده‌سازی تاریخ»
شاید خطرناک‌ترین پیامد، تأثیرگذاری بر پاسخ هوش مصنوعی در زمان حاضر نباشد؛ بلکه تأثیر بر نحوه‌ای باشد که هوش مصنوعی ده سال بعد تاریخ جنگ را روایت خواهد کرد.
تصور کنید پژوهشگری در سال ۲۰۳۶ بپرسد: «در جنگ آمریکا و ایران در سال ۲۰۲۶ چه اتفاقی افتاد؟»
اگر محیط دیجیتال حاوی میلیون‌ها صفحه باشد که روایتی خاص را تکرار می‌کنند، درحالی‌که منابع اولیه ایرانی از بین رفته یا کمیاب شده باشند، پژوهشگر ممکن است پاسخی دریافت کند که مستند و منسجم به نظر برسد، اما از ابتدا بر محیط اطلاعاتی نامتوازنی بنا شده باشد.
در اینجا، مفهوم «گمراه‌سازی» از فرایندی که افکار عمومی را هدف قرار می‌دهد، به فرایندی تبدیل می‌شود که حافظه دیجیتال جنگ را هدف گرفته است.
چرا هوش مصنوعی در برابر این مشکل آسیب‌پذیر است؟
زیرا هوش مصنوعی از «چشمی برای مشاهده حقیقت» برخوردار نیست.
مدل هوش مصنوعی موشکی را که سقوط کرده، با چشم خود نمی‌بیند؛ به‌طور مستقل نمی‌داند که آیا یک تصویر ماهواره‌ای اصیل است یا خیر و نمی‌تواند به گذشته بازگردد تا وقوع واقعی یک رویداد مشخص را شخصاً بررسی کند.
این سامانه به داده‌هایی متکی است که در دسترس آن قرار گرفته‌اند، همچنین به کیفیت منابع و سازوکارهای راستی‌آزمایی به‌کاررفته در سامانه وابسته است.
به همین دلیل، مؤسسه NIST هشدار داده است که سامانه‌های هوش مصنوعی ممکن است تحت تأثیر داده‌های غیرقابل اعتماد قرار گیرند و تاکنون هیچ روش دفاعی کاملی برای مقابله با انواع مختلف حملات خصمانه علیه سامانه‌های هوش مصنوعی وجود ندارد. (NIST)
در جنگ متعارف، ارتش‌ها می‌کوشند رادارهای دشمن را نابود کنند یا در عملکرد آن‌ها اختلال ایجاد کنند.
در جنگ سایبری، شبکه‌های رایانه‌ای هدف قرار می‌گیرند. اما در جنگ اطلاعاتی مبتنی بر هوش مصنوعی، ممکن است هدف جدیدی مطرح شود:
زنجیره اطلاعاتی‌ای که هوش مصنوعی درک خود از واقعیت را بر پایه آن شکل می‌دهد.
این مسئله به آن معناست که در آینده ممکن است نوع تازه‌ای از تقابل شکل بگیرد؛ تقابلی که در آن، تسلط بر داده‌ها نه‌تنها بر آنچه انسان می‌خواند، بلکه بر آنچه ماشین به انسان می‌گوید نیز تأثیر می‌گذارد.
برای ایران که درگیر تقابلی رسانه‌ای، سیاسی و نظامی با آمریکا و «اسرائیل» است، حفاظت از آرشیو دیجیتال، مستندسازی رویدادها با استفاده از منابع مستقل، نگهداری تصاویر و داده‌های اصلی و انتشار منابع اولیه به زبان‌های گوناگون، ممکن است به بخشی از امنیت ملی تبدیل شود، نه اینکه صرفاً فعالیتی رسانه‌ای تلقی شود.
زیرا در نهایت، خطر اصلی این نیست که کسی به هوش مصنوعی دروغ بگوید؛ بلکه خطر آن است که دروغ، پس از تکرار به اندازه کافی، به بخشی از محیطی تبدیل شود که هوش مصنوعی از طریق آن می‌آموزد حقیقت را چگونه توصیف کند.
و دقیقاً در همین نقطه است که جنگ علیه ایران در آینده ممکن است به همان اندازه که جنگی بر سر زمین، آسمان و دریاست، به جنگی علیه «حافظه ماشین» نیز تبدیل شود.