Rủi ro của AI trong doanh nghiệp, tại Thụy Sĩ

Các rủi ro liên quan đến AI trong doanh nghiệp không phải là đồng nhất. Chúng được phân thành bốn nhóm riêng biệt, mỗi nhóm có nguyên nhân, hậu quả và đòn bẩy kiểm soát riêng. Hiểu bản đồ này là bước đầu tiên trước bất kỳ triển khai nào.

Thụy Sĩ chưa có luật riêng về AI. Cách tiếp cận được chọn là trung lập công nghệ: các luật hiện hành được áp dụng. Điều này có nghĩa là ba bộ luật trực tiếp điều chỉnh việc sử dụng AI trong doanh nghiệp.

Luật liên bang mới về bảo vệ dữ liệu (nLPD, có hiệu lực vào tháng 9 năm 2023) áp dụng trực tiếp cho các hoạt động xử lý bằng AI. Luật này yêu cầu minh bạch về mục đích và nguồn dữ liệu, đánh giá tác động trong trường hợp rủi ro cao, và quyền được xem xét lại bởi con người đối với các quyết định tự động (điều 21 nLPD). Các chế tài có thể lên đến 250'000 CHF và làm phát sinh trách nhiệm cá nhân của các lãnh đạo.

Luật nghĩa vụ (điều 41 CO) buộc doanh nghiệp sử dụng phải bồi thường mọi thiệt hại do hệ thống AI mà họ vận hành gây ra. Doanh nghiệp chịu trách nhiệm, không phải hệ thống. Luật liên bang về trách nhiệm sản phẩm (LRFP) cũng có thể áp dụng nếu AI được coi là thành phần bị lỗi.

AI Act châu Âu, được thông qua vào tháng 3 năm 2024 và dần có hiệu lực đến năm 2026, ảnh hưởng trực tiếp đến các doanh nghiệp Thụy Sĩ hoạt động trên thị trường châu Âu hoặc có các hệ thống AI được triển khai trong EU. Luật phân loại AI thành bốn cấp độ rủi ro (không chấp nhận được, cao, hạn chế, tối thiểu) và áp đặt các nghĩa vụ về tài liệu, kiểm toán và đánh dấu CE đối với các hệ thống rủi ro cao.

AI tạo sinh tạo ra kết quả có xác suất thống kê cao, không nhất thiết chính xác. Hiện tượng ảo giác, khi mô hình tạo ra thông tin sai được trình bày một cách tự tin, đã được ghi nhận trong tất cả các mô hình lớn hiện nay. Trong bối cảnh chuyên nghiệp, điều này có thể dẫn đến hợp đồng soạn thảo kém, phân tích tài chính sai, phản hồi khách hàng không chính xác hoặc quyết định y tế có sai sót.

Sự phụ thuộc vận hành là rủi ro thường bị đánh giá thấp. Khi một quy trình quan trọng hoàn toàn phụ thuộc vào hệ thống AI của nhà cung cấp bên ngoài, sự cố, thay đổi điều khoản sử dụng hoặc tăng giá có thể làm gián đoạn hoạt động. Không có kế hoạch duy trì liên tục, sự dễ bị tổn thương là cơ cấu.

Một mô hình được đào tạo trên dữ liệu lịch sử sẽ kế thừa các thiên kiến của những dữ liệu đó. Trong bối cảnh tuyển dụng, cấp tín dụng, định giá bảo hiểm hoặc đánh giá hiệu suất, một thuật toán bị lệch có thể dẫn đến các quyết định phân biệt đối xử theo nghĩa của luật pháp Thụy Sĩ và châu Âu, ngay cả khi không có ý định gây hại.

Việc thiếu kiểm soát của con người đối với những quyết định này làm trầm trọng thêm rủi ro: sự phân biệt đối xử không hiện diện trong quy trình, nó chỉ xuất hiện trong kết quả. Tại Thụy Sĩ, nLPD yêu cầu các quyết định tự động có tác động pháp lý đáng kể đến một người phải được chịu quyền xem xét lại của con người.

Phần lớn các công cụ AI tiêu dùng (ChatGPT, Copilot, Gemini) xử lý dữ liệu trên các máy chủ đặt tại Hoa Kỳ. Khi nhân viên nhập thông tin bí mật, dữ liệu khách hàng, bí mật thương mại hoặc dữ liệu cá nhân vào các công cụ này, những dữ liệu đó rời khỏi phạm vi của doanh nghiệp và có thể rời khỏi thẩm quyền của Thụy Sĩ và châu Âu.

Năng lực tính toán thế giới vẫn tập trung rất lớn ở Hoa Kỳ, khiến châu Âu phụ thuộc cơ cấu vào các hyperscaler Mỹ. Thực tế này tạo ra rủi ro chủ quyền mà các doanh nghiệp Thụy Sĩ, đặc biệt trong các lĩnh vực được quản lý (tài chính, y tế, bảo hiểm, hành chính), không thể bỏ qua.

Vị trí lưu trữ dữ liệu là tiêu chí bảo mật, không chỉ là sự tiện lợi. Có các lựa chọn thay thế, đặc biệt là các mô hình mã nguồn mở được lưu trữ trên cơ sở hạ tầng châu Âu, cho phép xử lý dữ liệu nhạy cảm mà không cần chuyển ra ngoài EU.

Nhiều doanh nghiệp Thụy Sĩ đã áp dụng AI, nhưng chiến lược thường tụt hậu. Áp dụng không có quản trị tự nó là một rủi ro: các ứng dụng nhân rộng không có sự phối hợp, trách nhiệm vẫn mơ hồ, và không có khung nào xác định dữ liệu nào có thể được chia sẻ với công cụ nào.

Phụ thuộc nhà cung cấp là một hình thức phụ thuộc chiến lược. Khi các quy trình của doanh nghiệp dựa vào một công cụ AI độc quyền, việc chuyển sang lựa chọn thay thế trở nên tốn kém, rủi ro và phức tạp về mặt kỹ thuật. Cuối cùng, nhà cung cấp có sức mạnh thị trường làm giảm khả năng đàm phán của doanh nghiệp.

Thiếu năng lực nội bộ là một trong những trở ngại đầu tiên cho việc áp dụng có cơ cấu. Các doanh nghiệp vừa và nhỏ thường không thể tự mình thành lập nhóm quản trị AI. Hỗ trợ bên ngoài, dù là tư vấn, đào tạo hay nhà cung cấp kỹ thuật, do đó là yếu tố giảm thiểu rủi ro, không phải là xa xỉ phẩm.

Thụy Sĩ chọn cách tiếp cận trung lập công nghệ: không có luật AI duy nhất, mà áp dụng các luật theo ngành hiện hành. Cụ thể, trong giai đoạn 2025-2026, các văn bản sau đây trực tiếp áp dụng cho các ứng dụng AI trong doanh nghiệp:

PFPDT (cơ quan liên bang bảo vệ dữ liệu) đã xác nhận rằng nLPD áp dụng trực tiếp cho các hoạt động xử lý bằng AI, không có sự mơ hồ. Cơ quan đặc biệt giám sát các trường hợp nhận diện khuôn mặt, giám sát hành vi và xử lý dữ liệu nhạy cảm bằng các hệ thống tự động.

Đối với các doanh nghiệp tiếp xúc với EU, AI Act được bổ sung như một lớp pháp lý. Các lệnh cấm đầu tiên (mức rủi ro không chấp nhận được) có hiệu lực vào tháng 2 năm 2025. Các nghĩa vụ đối với các hệ thống rủi ro cao áp dụng dần dần đến tháng 8 năm 2026.

Quản lý rủi ro AI không đòi hỏi phải dừng tất cả hoặc làm lại tất cả. Nó đòi hỏi một cách tiếp cận có cơ cấu, tương xứng với quy mô và lĩnh vực của tổ chức. Dưới đây là các bước ưu tiên được xác định bởi các chuyên gia thực hành Thụy Sĩ trong lĩnh vực này.

Đối với các doanh nghiệp Thụy Sĩ muốn triển khai các công cụ AI nghiệp vụ, cổng thông tin khách hàng, phần mềm nội bộ hoặc tác nhân AI mà không cần chuyển dữ liệu của họ đến các hyperscaler Mỹ, Kleap đề xuất một cách tiếp cận dựa trên ba nguyên tắc.

Nguyên tắc thứ nhất: cơ sở hạ tầng châu Âu. Các triển khai dựa vào Hetzner (Đức, được chứng nhận ISO 27001) và các mô hình mã nguồn mở mà dữ liệu không rời khỏi EU và không được tái sử dụng để đào tạo các mô hình của bên thứ ba.

Nguyên tắc thứ hai: hỗ trợ. Kleap không bán một công cụ, mà đề xuất kết quả được cung cấp bởi một đội nhóm. Có ba con đường: xây dựng trọn gói thông qua cơ quan đối tác Lionscreative, kết nối với nhà cung cấp chuyên biệt, hoặc triển khai Kleap Enterprise theo chế độ hướng dẫn.

Nguyên tắc thứ ba: khả năng truy xuất. Các hành động của các hệ thống AI được triển khai có thể kiểm toán. Các lãnh đạo có thể ghi lại các quyết định để đáp ứng yêu cầu nLPD và chuẩn bị tuân thủ AI Act.