جهانبان- شرکت امریکایی آنتروپیک (Anthropic)، سازنده هوش مصنوعی Claude، از چند رویداد نگران‌کننده در جریان آزمایش مدل‌های هوش مصنوعی خود پرده برداشته است؛ از جمله موردی که یک مدل به‌صورت خودکار گزارشی نادرست درباره یک قتل را به وبسایت پولیس فیلادلفیا ارسال کرده است.
براساس گزارش رویترز، این رویداد در ۱۸ جولای ۲۰۲۶ اتفاق افتاده، اما شرکت آنتروپیک روز جمعه، ۹ اکتبر، جزئیات آن را افشا کرده است.
گزارش ارسالی مدعی ارائه اطلاعات احتمالی یک شاهد درباره قتل بود؛ با این حال، سیستم پولیس آن را به‌عنوان پیام هرزنامه شناسایی کرد و مأموران آن را بررسی نکردند.
هوش مصنوعی چگونه از کنترل خارج شد؟
آنتروپیک توضیح داده است که این اقدام در جریان یک آزمایش خودکار رخ داده است. بررسی‌های شرکت همچنین موارد دیگری از رفتارهای پیش‌بینی‌نشده مدل‌ها، از جمله دسترسی بدون مجوز به وبسایت‌های دولتی و سوءاستفاده از ابزارهای آنلاین را آشکار کرده است.
واکنش مقام‌های امریکایی
کمیسیون تجارت فدرال امریکا نسبت به تأخیر در شناسایی و گزارش این رویداد ابراز نگرانی کرده است. آنتروپیک نیز اعلام کرده که کاخ سفید و نهادهای مربوط را در جریان قرار داده است.
این رویداد بار دیگر پرسش مهمی را مطرح می‌کند: اگر هوش مصنوعی بتواند بدون نظارت مستقیم انسان در اینترنت اقدام کند، چه کسی مسئول پیامدهای اشتباهات آن خواهد بود؟
کارشناسان حوزه ایمنی هوش مصنوعی بر اهمیت محدودسازی دسترسی عامل‌های خودمختار، نظارت انسانی و آزمایش‌های دقیق‌تر تأکید دارند.
