| بررسی اعتمادپذیری عامل‌های هوش مصنوعی در فضای سایبر |
| کد مقاله : 1135-CYSP2025 (R1) |
| نویسندگان |
|
سیدمحمدمهدی میرکمالی *، علی نادری، محمد رضا میرباقری دانشجو |
| چکیده مقاله |
| بررسی اعتمادپذیری عامل‌های هوش مصنوعی در فضای سایبر. عامل‌های هوش مصنوعی، به‌عنوان مرحله‌ای پیشرفته در تکامل سامانه‌های هوشمند، فراتر از مدل‌های محاوره‌ای عمل کرده و با بهره‌مندی از خودمختاری، قادر به اقدام در محیط‌های دیجیتال یا فیزیکی هستند. این مقاله به تعریف و معماری عامل‌ها، شامل هسته زبانی، حافظه، ابزارها و چرخه استدلال–اقدام–بازخورد، پرداخته و سپس ابعاد چندلایه اعتمادپذیری آن‌ها را تحلیل می‌کند. چالش‌هایی نظیر توهم‌زایی، سوگیری، عدم توضیح‌پذیری، آسیب‌پذیری ابزارها و زنجیره تأمین، و مخاطرات اقدامات ناهمسو بررسی شده‌اند. همچنین، پیامدهای کلان اعتمادپذیری در سطح ملی و حکمرانی، همراه با چارچوب‌های نظری برای تحلیل تعاملات راهبردی میان بازیگران مختلف، مورد توجه قرار گرفته است. در پایان، راه‌حل‌هایی چندوجهی شامل نوآوری‌های فنی، سیاست‌گذاری انطباق‌پذیر و ارتقای فرهنگ و آگاهی عمومی پیشنهاد شده است. این مقاله نتیجه می‌گیرد که اعتمادپذیری عامل‌های هوش مصنوعی وضعیتی پویا و نیازمند مدیریت مستمر است که که تنها از رهگذر ترکیب رویکردهای حکمرانانۀ فناورانه قابل تحقق خواهد بود. |
| کلیدواژه ها |
| حاکمیت هوش مصنوعی ، سیاست‌گذاری فناوری، اعتمادپذیری عامل‌های هوش مصنوعی |
| وضعیت: پذیرفته شده برای ارائه شفاهی |