در محیطهای پرخطر، فناوری به ندرت برای مدت طولانی اختیاری باقی میماند. هنگامی که خطرات افزایش مییابند، سیستمها یا ارزش خود را در عملیات روزانه اثبات میکنند یا به طور کامل از استفاده خارج میشوند. این الگو در حال حاضر در مراقبتهای بهداشتی قابل مشاهده است، جایی که تشخیص گفتار پزشکی مبتنی بر هوش مصنوعی فراتر از راحتی رفته و به هسته اصلی جریانهای کاری بالینی تبدیل شده است. آنچه به عنوان کمک مستندسازی آغاز شد، اکنون از نگهداری سوابق در زمان واقعی پشتیبانی میکند، بار اداری را کاهش میدهد و به پزشکان کمک میکند تصمیمات سریعتر و دقیقتری بگیرند.
این تغییر، حقیقت گستردهتری را برجسته میکند. در محیطهایی که توسط فوریت و پیچیدگی شکل گرفتهاند، هوش مصنوعی زمانی موفق میشود که در جریانهای کاری جاسازی شود نه اینکه به عنوان یک افزونه تلقی شود. قابلیت اطمینان، دقت و مقیاسپذیری در این تنظیمات مزایا نیستند. آنها الزامات هستند. همین انتظار اکنون برای امنیت آنلاین کودکان نیز اعمال میشود، جایی که مقیاس و سرعت آسیب، مداخله مداوم در سطح سیستم را میطلبد.
چرا نظارت انسانی نمیتواند با آن همگام شود
بزرگی ریسک آنلاین، رویکرد صرفاً انسانی را غیرقابل اجرا میکند. هر سال تخمین زده میشود که بیش از 300 میلیون کودک در سطح جهانی تحت تأثیر قرار میگیرند و مواد سوء استفاده مشکوک با نرخ بیش از 100 فایل در دقیقه گزارش میشوند. حتی تیمهای با منابع کافی نمیتوانند به صورت دستی آن حجم را در زمان واقعی بررسی یا پاسخ دهند.
سیستمهای AI هم اکنون این شکاف را پر میکنند. آنها میلیاردها فایل را پردازش میکنند، محتوای مضر را که هرگز دیده نشده شناسایی میکنند و از طریق تشخیص الگو، مداخله زودتر را ممکن میسازند. به جای واکنش پس از گسترش آسیب، این سیستمها خطرات را همانطور که ظاهر میشوند، آشکار میکنند.
پویایی مشابهی در مراقبتهای بهداشتی وجود دارد. پزشکان نمیتوانند بدون پشتیبانی هر لایه از دادههای بیمار را به صورت دستی پردازش کنند، همانطور که پلتفرمهای دیجیتال نمیتوانند تنها به نظارت انسانی تکیه کنند. در مقیاس، تأخیر به ریسک تبدیل میشود. هوش مصنوعی آن تأخیر را کاهش میدهد.
هوش مصنوعی به عنوان ریسک و پاسخ
رشد سریع هوش مصنوعی مولد، لایه دیگری از پیچیدگی را اضافه میکند. این ابزارها میتوانند ایجاد محتوای مضر را تسریع کنند، مانع ورود برای متخلفان را کاهش دهند و اشکال جدیدی از مواد را معرفی کنند که روشهای سنتی تشخیص برای شناسایی آنها مشکل دارند.
در عین حال، هوش مصنوعی مؤثرترین پاسخ را ارائه میدهد. میتواند محتوای کاملاً جدید را تشخیص دهد، الگوهای رفتاری مانند آراستن را تشخیص دهد و شبکههای فعالیت را به جای حوادث مجزا تجزیه و تحلیل کند. همانطور که تهدیدها تکامل مییابند، سیستمهای دفاعی باید با آنها تکامل یابند.
این واقعیت روشنی را ایجاد میکند. پاسخ به ریسک مبتنی بر هوش مصنوعی، هوش مصنوعی کمتر نیست. بلکه سیستمهای قویتر و گستردهتری است که میتوانند با چالشهای نوظهور همگام شوند.
جایی که سیاست نتایج را شکل میدهد
فناوری به تنهایی اثربخشی را تعیین نمیکند. مقررات نقش مستقیمی در اینکه آیا این سیستمها میتوانند همانطور که در نظر گرفته شده عمل کنند، ایفا میکند. تحت چارچوبهایی مانند قانون خدمات دیجیتال و قانون امنیت آنلاین کودکان پیشنهادی، پلتفرمها با فشار فزایندهای برای تشخیص و کاهش آسیب روبرو هستند، در کنار پیچیدگی حقوقی فزاینده در مورد نحوه اجرای آن تشخیص.
در اروپا، عدم قطعیت قانونی در مورد شیوههای تشخیص، شکافهایی ایجاد کرده است که بر نتایج دنیای واقعی تأثیر میگذارد. در یک مورد، کاستی در وضوح قانونی به کاهش 58 درصدی گزارشهای سوء استفاده از پلتفرمهای مستقر در اتحادیه اروپا کمک کرد. احکام اخیر، از جمله حکم 375 میلیون دلاری علیه Meta Platforms مرتبط با آسیبهای پلتفرم، نشان میدهد که چگونه پیامدهای قانونی و مالی شروع به جبران شکستهای امنیت کردهاند.
هنگامی که شرکتها با ریسک قانونی برای ادامه تشخیص داوطلبانه روبرو میشوند، حفظ سیستمهای امنیت سختتر میشود. ابهام تعادل ایجاد نمیکند. تشخیص را محدود میکند و قرار گرفتن در معرض را افزایش میدهد.
در عین حال، بحثهای پیرامون حریم خصوصی و امنیت اغلب بر سوء تفاهمها تکیه دارند. بسیاری از روشهای تشخیص شامل خواندن پیامهای خصوصی نمیشوند. در عوض، آنها بر هشسازی، طبقهبندی و تطبیق الگو تکیه دارند، مشابه نحوه عملکرد فیلترهای هرزنامه یا سیستمهای تشخیص بدافزار. برخورد با تمام تشخیص مبتنی بر هوش مصنوعی به عنوان خطرات نظارتی، ابزارهایی را که برای جلوگیری از آسیب طراحی شدهاند، غیرفعال میکند.
طراحی برای پیشگیری
در سراسر صنایع، یک رویکرد ثابت در حال شکل گیری است. مؤثرترین سیستمها مستقیماً در زیرساخت ساخته میشوند نه اینکه بعداً اضافه شوند. در مراقبتهای بهداشتی، هوش مصنوعی قبل از وقوع خطاها از تصمیمات پشتیبانی میکند. در محیطهای آنلاین، سیستمهای امنیت میتوانند خطرات را در لحظه بارگذاری یا در طول تعاملات علامتگذاری کنند و احتمال گسترش آسیب را کاهش دهند.
این مفهوم امنیت از طریق طراحی، تمرکز را از واکنش به پیشگیری تغییر میدهد. اولویت را به تشخیص زودهنگام، نظارت بر ریسک در زمان واقعی و حفاظت یکپارچه میدهد.
شرکتهایی مانند Tuteliq مستقر در سوئد، این زیرساخت را مستقیماً در معماریهای پلتفرم میسازند، با استفاده از APIهای تشخیص رفتاری که از تحقیقات جرمشناسی آگاه شدهاند تا تهدیداتی مانند آراستن و کنترل اجباری را قبل از تشدید شناسایی کنند، رویکردی که با چارچوبهایی مانند Safety by Design eSafety هماهنگ است.
یک الگوی مشترک در سیستمهای پرخطر
چه در بیمارستانها یا در پلتفرمهای دیجیتال، الگو ثابت باقی میماند. هوش مصنوعی زمانی ضروری میشود که مقیاس اطلاعات از ظرفیت انسانی فراتر رود. اثربخشی آن به نحوه استقرار بستگی دارد، نه فقط نحوه توسعه آن. و هنگامی که چارچوبهای نظارتی نامشخص باشند، حفاظت ضعیف میشود.
برای هر کسی که در این سیستمها حرکت میکند، سؤال دیگر این نیست که آیا هوش مصنوعی باید دخیل باشد. این است که آیا به گونهای پیادهسازی شده است که از حفاظت در زمان واقعی در مقیاس پشتیبانی کند، یا شکافهایی در محیطهایی باقی میماند که خطرات در آنها از قبل گسترده است.
