| کاوش ابعاد اعتمادپذیری عاملهای هوش مصنوعی در فضای زیستبوم سایبری |
| کد مقاله : 1135-CYSP2025 (R1) |
| نویسندگان |
|
سیدمحمدمهدی میرکمالی *1، علی نادری لردجانی2، محمد رضا میرباقری3 1دانشجوی کارشناسی، دانشکده مهندسی کامپیوتر، دانشگاه صنعتی شریف، تهران 2دانشجوی کارشناسی، دانشکده مهندسی برق، دانشگاه صنعتی شریف، تهران 3دانشجوی کارشناسی ارشد، دانشکده مهندسی کامپیوتر، دانشگاه صنعتی شریف، تهران |
| چکیده مقاله |
| بررسی اعتمادپذیری عاملهای هوش مصنوعی در فضای سایبر. عاملهای هوش مصنوعی، بهعنوان مرحلهای پیشرفته در تکامل سامانههای هوشمند، فراتر از مدلهای محاورهای عمل کرده و با بهرهمندی از خودمختاری، قادر به اقدام در محیطهای دیجیتال یا فیزیکی هستند. این مقاله به تعریف و معماری عاملها، شامل هسته زبانی، حافظه، ابزارها و چرخه استدلال–اقدام–بازخورد، پرداخته و سپس ابعاد چندلایه اعتمادپذیری آنها را تحلیل میکند. چالشهایی نظیر توهمزایی، سوگیری، عدم توضیحپذیری، آسیبپذیری ابزارها و زنجیره تأمین، و مخاطرات اقدامات ناهمسو بررسی شدهاند. همچنین، پیامدهای کلان اعتمادپذیری در سطح ملی و حکمرانی، همراه با چارچوبهای نظری برای تحلیل تعاملات راهبردی میان بازیگران مختلف، مورد توجه قرار گرفته است. در پایان، راهحلهایی چندوجهی شامل نوآوریهای فنی، سیاستگذاری انطباقپذیر و ارتقای فرهنگ و آگاهی عمومی پیشنهاد شده است. این مقاله نتیجه میگیرد که اعتمادپذیری عاملهای هوش مصنوعی وضعیتی پویا و نیازمند مدیریت مستمر است که که تنها از رهگذر ترکیب رویکردهای حکمرانانۀ فناورانه قابل تحقق خواهد بود. |
| کلیدواژه ها |
| حاکمیت هوش مصنوعی ، سیاستگذاری فناوری، اعتمادپذیری عاملهای هوش مصنوعی. |
| وضعیت: پذیرفته شده برای ارائه شفاهی |