ریسک‌های هوش مصنوعی در کسب‌وکار، در سوئیس

خطرات مرتبط با هوش مصنوعی در سازمان‌ها یک‌دست نیستند. آن‌ها به چهار دسته مجزا تقسیم می‌شوند که هرکدام علل، پیامدها و اهرم‌های کنترل خاص خود را دارند. درک این نقشه پیش از هر استقراری، نخستین گام است.

سوئیس هنوز قانون خاصی برای هوش مصنوعی ندارد. رویکرد اتخاذشده، خنثایی فناورانه است: قوانین موجود اعمال می‌شوند. این بدان معناست که سه مجموعه قانونی مستقیماً استفاده از هوش مصنوعی در سازمان‌ها را تنظیم می‌کنند.

قانون فدرال جدید حمایت از داده‌ها (nLPD، لازم‌الاجرا از سپتامبر 2023) مستقیماً بر پردازش‌های هوش مصنوعی قابل اعمال است. این قانون شفافیت درباره هدف و منابع داده، تحلیل اثر در صورت وجود خطرات بالا، و حق بازنگری انسانی در تصمیمات خودکار (art. 21 nLPD) را الزامی می‌کند. مجازات‌ها می‌توانند به 250'000 CHF برسند و مسئولیت شخصی مدیران را در بر می‌گیرند.

قانون تعهدات (art. 41 CO) شرکت کاربر را ملزم می‌کند هر خسارتی که توسط سیستم هوش مصنوعی تحت بهره‌برداری‌اش ایجاد شده را جبران کند. شرکت مسئول است، نه سیستم. قانون فدرال مسئولیت ناشی از محصولات (LRFP) نیز ممکن است اعمال شود اگر هوش مصنوعی به‌عنوان قطعه معیوب تلقی شود.

AI Act اروپایی، که در مارس 2024 تصویب شد و به‌تدریج تا 2026 اجرایی می‌شود، مستقیماً شرکت‌های سوئیسی که در بازار اروپایی فعالیت می‌کنند یا سیستم‌های هوش مصنوعی آن‌ها در اتحادیه اروپا مستقر شده‌اند را شامل می‌شود. این قانون هوش مصنوعی‌ها را در چهار سطح خطر طبقه‌بندی می‌کند (غیرقابل قبول، بالا، محدود، حداقل) و الزامات مستندسازی، حسابرسی و نشانه‌گذاری CE برای سیستم‌های پرخطر را تحمیل می‌کند.

هوش مصنوعی مولد نتایجی آماری احتمال‌پذیر تولید می‌کند، نه لزوماً دقیق. پدیده توهم‌زایی، که در آن مدل اطلاعات نادرست را با اطمینان ارائه می‌دهد، در تمام مدل‌های بزرگ کنونی مستند شده است. در محیط حرفه‌ای، این می‌تواند به معنای قراردادهای بدتنظیم، تحلیل‌های مالی نادرست، پاسخ‌های غلط به مشتریان یا تصمیمات پزشکی معیوب باشد.

وابستگی عملیاتی خطری است که اغلب دست‌کم گرفته می‌شود. زمانی که یک فرآیند حیاتی کاملاً بر سیستم هوش مصنوعی یک تامین‌کننده خارجی متکی است، یک خرابی، تغییر در شرایط استفاده یا افزایش قیمت می‌تواند فعالیت را مختل کند. بدون برنامه تداوم، آسیب‌پذیری ساختاری است.

مدلی که بر داده‌های تاریخی آموزش دیده، سوگیری‌های آن داده‌ها را به ارث می‌برد. در زمینه استخدام، اعطای اعتبار، تعرفه‌گذاری بیمه یا ارزیابی عملکرد، یک الگوریتم سوگیرانه می‌تواند به تصمیمات تبعیض‌آمیز به معنای حقوق سوئیس و اروپایی منجر شود، حتی بدون قصد آسیب رساندن.

فقدان کنترل انسانی بر این تصمیمات خطر را تشدید می‌کند: تبعیض در فرآیند قابل مشاهده نیست، تنها در نتایج آشکار می‌شود. در سوئیس، nLPD الزام می‌کند که تصمیمات خودکار دارای اثرات حقوقی قابل توجه بر یک شخص، مشمول حق بازنگری انسانی باشند.

اکثر ابزارهای هوش مصنوعی عمومی (ChatGPT، Copilot، Gemini) داده‌ها را بر روی سرورهای مستقر در ایالات متحده پردازش می‌کنند. زمانی که یک کارمند اطلاعات محرمانه، داده‌های مشتریان، اسرار تجاری یا داده‌های شخصی را در این ابزارها وارد می‌کند، این داده‌ها محدوده شرکت و احتمالاً حوزه قضایی سوئیس و اروپا را ترک می‌کنند.

قدرت محاسباتی جهانی همچنان به‌شدت در ایالات متحده متمرکز است و اروپا را در وابستگی ساختاری به ابرمقیاس‌های آمریکایی رها می‌کند. این واقعیت خطر حاکمیتی ایجاد می‌کند که شرکت‌های سوئیسی، به‌ویژه در بخش‌های تنظیم‌شده (مالی، بهداشت، بیمه، اداری)، دیگر نمی‌توانند از آن چشم‌پوشی کنند.

میزبانی داده‌ها معیاری امنیتی است، نه صرفاً یک راحتی. جایگزین‌هایی وجود دارند، از جمله مدل‌های منبع‌باز میزبانی‌شده بر زیرساخت اروپایی، که امکان پردازش داده‌های حساس بدون انتقال آن‌ها خارج از اتحادیه اروپا را می‌دهند.

بسیاری از شرکت‌های سوئیسی هوش مصنوعی را پذیرفته‌اند، اما استراتژی اغلب عقب‌تر است. پذیرش بدون حاکمیت خودش یک خطر است: کاربردها به شکلی هماهنگ‌نشده تکثیر می‌شوند، مسئولیت‌ها مبهم باقی می‌مانند، و هیچ چارچوبی تعریف نمی‌کند کدام داده‌ها می‌توانند با کدام ابزارها به اشتراک گذاشته شوند.

وابستگی به تامین‌کننده نوعی وابستگی استراتژیک است. زمانی که فرآیندهای یک شرکت بر یک ابزار هوش مصنوعی اختصاصی متکی است، مهاجرت به یک جایگزین پرهزینه، پرخطر و از نظر فنی پیچیده می‌شود. در نهایت، تامین‌کننده قدرت بازاری دارد که توان مذاکره شرکت را تضعیف می‌کند.

کمبود شایستگی‌های داخلی یکی از اولین موانع پذیرش ساختاریافته است. شرکت‌های کوچک و متوسط معمولاً نمی‌توانند به‌تنهایی تیم حاکمیت هوش مصنوعی تشکیل دهند. همراهی خارجی، چه مشاوره، آموزش یا پیمانکار فنی، عاملی برای کاهش خطر است، نه یک تجمل.

سوئیس رویکرد خنثایی فناورانه را انتخاب می‌کند: نه قانون واحد هوش مصنوعی، بلکه اعمال قوانین بخشی موجود. به طور عملی، در 2025-2026، متون زیر مستقیماً بر کاربردهای هوش مصنوعی در سازمان‌ها اعمال می‌شوند:

PFPDT (مرجع فدرال حمایت از داده‌ها) تأیید کرده که nLPD مستقیماً بر پردازش‌های هوش مصنوعی قابل اعمال است، بدون هیچ ابهامی. مرجع به‌ویژه موارد تشخیص چهره، نظارت رفتاری و پردازش داده‌های حساس توسط سیستم‌های خودکار را زیر نظر دارد.

برای شرکت‌هایی که در معرض اتحادیه اروپا هستند، AI Act به‌عنوان لایه نظارتی اضافه می‌شود. اولین ممنوعیت‌ها (سطح خطر غیرقابل قبول) در فوریه 2025 لازم‌الاجرا شدند. الزامات برای سیستم‌های پرخطر به‌تدریج تا اوت 2026 اعمال می‌شوند.

مدیریت خطرات هوش مصنوعی نیازی به توقف همه چیز یا شروع از نو ندارد. رویکردی ساختاریافته، متناسب با اندازه و بخش سازمان را می‌طلبد. در اینجا گام‌های اولویت‌دار که توسط متخصصان سوئیسی این حوزه شناسایی شده‌اند آمده است.

برای شرکت‌های سوئیسی که می‌خواهند ابزارهای هوش مصنوعی تجاری، درگاه‌های مشتری، نرم‌افزارهای داخلی یا عوامل هوش مصنوعی را بدون انتقال داده‌هایشان به ابرمقیاس‌های آمریکایی مستقر کنند، Kleap رویکردی مبتنی بر سه اصل ارائه می‌دهد.

اصل اول: زیرساخت اروپایی. استقرارها بر Hetzner (آلمان، دارای گواهینامه ISO 27001) و مدل‌های منبع‌باز متکی هستند که داده‌های آن‌ها اتحادیه اروپا را ترک نمی‌کند و برای آموزش مدل‌های شخص ثالث مورد استفاده مجدد قرار نمی‌گیرد.

اصل دوم: همراهی. Kleap یک ابزار نمی‌فروشد، بلکه نتیجه‌ای توسط یک تیم تحویل می‌دهد. سه مسیر در دسترس است: ساخت کلید در دست از طریق آژانس شریک Lionscreative، ارتباط با یک پیمانکار متخصص، یا استقرار Kleap Enterprise در حالت هدایت‌شده.

اصل سوم: قابلیت ردیابی. اقدامات سیستم‌های هوش مصنوعی مستقر قابل حسابرسی هستند. مدیران می‌توانند تصمیمات را برای پاسخگویی به الزامات nLPD مستند کنند و انطباق با AI Act را آماده سازند.