هشدار ناظر بانکی آمریکا راجع به تهدیدات عامل‌های هوش مصنوعی سرکش

دفتر کنترل ارز آمریکا نخستین چارچوب نظارتی خود را برای هوش مصنوعی در بانکداری منتشر کرد و از بازرسان خواست بر تهدیدات ناشی از اشتباهات تمرکز کنند.

این راهنما کمتر از دو هفته پس از گزارش‌هایی منتشر شد که نشان می‌داد عامل‌های هوش مصنوعی شخص ثالث و غیرمجاز درون حساب مشتریان بانک‌های بزرگ فعالیت می‌کردند.

بانک‌هایی مثل مورگان استنلی (Morgan Stanley)، جی‌پی مورگان (JPMorgan)، بنک آو آمریکا (Bank of America) و سیتی (Citi) پیش‌تر دسترسی این عامل‌ها را مسدود یا محدود کرده بودند.

سطوح ریسک هوش مصنوعی در جابجایی پول

این نهاد نظارتی هشدار می‌دهد هوش مصنوعی که تراکنش‌های مالی را آغاز می‌کند، حتی اگر ساده باشد، بسیار پرریسک‌تر از نسخه‌های پیشرفته تولید متن اداری به شمار می‌رود.

این چارچوب ۲۲ صفحه‌ای چهار لایه ریسک معرفی می‌کند که ابزارهای پرداخت کاملاً خودکار در بالاترین رده و ابزارهای ساده بالا رفتن بهره‌وری داخلی در پایین‌ترین رده قرار می‌گیرند.

این راهنما شامل تدابیری مانند احراز هویت، محدودیت تراکنش، کنترل مداوم و کلید قطع اضطراری برای جلوگیری از تصمیم‌های مخرب سیستم‌های خودکار مالی است.

دستورالعمل نظارتی به جای مقررات جدید

نهاد ناظر تأکید کرده این سند مقررات یا استانداردهای اجباری تازه ایجاد نمی‌کند، بلکه چارچوبی برای سنجش ریسک‌های عملیاتی، انطباق و ایمنی سایبری در سیستم‌های موجود ارائه می‌دهد.

این راهنما کاربرد فناوری را در پرداخت، شناسایی کلاهبرداری و سرویس ها مشتری پوشش می‌دهد و اعلام شده با توسعه فناوری، جزئیات آن نیز به‌روزرسانی خواهد شد.