Οι κίνδυνοι της τεχνητής νοημοσύνης στην επιχείρηση, στην Ελβετία

Οι κίνδυνοι που συνδέονται με την ΤΝ στις επιχειρήσεις δεν είναι μονολιθικοί. Κατανέμονται σε τέσσερις διακριτές κατηγορίες, καθεμία με τις αιτίες, τις συνέπειες και τους μηχανισμούς ελέγχου της. Η κατανόηση αυτής της χαρτογράφησης αποτελεί το πρώτο βήμα πριν από κάθε ανάπτυξη.

Η Ελβετία δεν διαθέτει ακόμη ειδικό νόμο για την ΤΝ. Η επιλεγμένη προσέγγιση είναι αυτή της τεχνολογικής ουδετερότητας: εφαρμόζονται οι υφιστάμενοι νόμοι. Αυτό σημαίνει ότι τρία νομικά σώματα ρυθμίζουν άμεσα τη χρήση ΤΝ στις επιχειρήσεις.

Ο νέος Ομοσπονδιακός Νόμος για την Προστασία Δεδομένων (nLPD, σε ισχύ από τον Σεπτέμβριο 2023) εφαρμόζεται άμεσα στις επεξεργασίες από ΤΝ. Επιβάλλει διαφάνεια ως προς τον σκοπό και τις πηγές δεδομένων, ανάλυση επιπτώσεων σε περίπτωση υψηλών κινδύνων, και δικαίωμα ανθρώπινης αναθεώρησης των αυτοματοποιημένων αποφάσεων (art. 21 nLPD). Οι κυρώσεις μπορούν να φθάσουν τα 250'000 CHF και συνεπάγονται προσωπική ευθύνη των διευθυντικών στελεχών.

Ο Κώδικας Ενοχών (art. 41 CO) υποχρεώνει τη χρήστρια επιχείρηση να αποζημιώσει κάθε ζημία που προκαλείται από σύστημα ΤΝ που εκμεταλλεύεται. Η επιχείρηση είναι υπεύθυνη, όχι το σύστημα. Ο Ομοσπονδιακός Νόμος περί Ευθύνης Προϊόντων (LRFP) μπορεί επίσης να εφαρμοστεί εάν η ΤΝ χαρακτηριστεί ως ελαττωματικό συστατικό.

Το ευρωπαϊκό AI Act, που εγκρίθηκε τον Μάρτιο 2024 και τίθεται σταδιακά σε εφαρμογή έως το 2026, αφορά άμεσα τις ελβετικές επιχειρήσεις που δραστηριοποιούνται στην ευρωπαϊκή αγορά ή των οποίων τα συστήματα ΤΝ αναπτύσσονται στην ΕΕ. Κατατάσσει τις ΤΝ σε τέσσερα επίπεδα κινδύνου (μη αποδεκτό, υψηλό, περιορισμένο, ελάχιστο) και επιβάλλει υποχρεώσεις τεκμηρίωσης, ελέγχου και σήμανσης CE για τα συστήματα υψηλού κινδύνου.

Η γεννητική ΤΝ παράγει στατιστικά πιθανά αποτελέσματα, όχι κατ' ανάγκη ακριβή. Το φαινόμενο των παραισθήσεων, όπου το μοντέλο παράγει ψευδείς πληροφορίες παρουσιαζόμενες με σιγουριά, είναι τεκμηριωμένο σε όλα τα μεγάλα σύγχρονα μοντέλα. Σε επαγγελματικό πλαίσιο, αυτό μπορεί να μεταφραστεί σε κακά συνταγμένες συμβάσεις, εσφαλμένες χρηματοοικονομικές αναλύσεις, ανακριβείς απαντήσεις σε πελάτες ή ελαττωματικές ιατρικές αποφάσεις.

Η επιχειρησιακή εξάρτηση είναι ένας κίνδυνος που συχνά υποτιμάται. Όταν μια κρίσιμη διαδικασία βασίζεται εξ ολοκλήρου σε ένα σύστημα ΤΝ εξωτερικού παρόχου, μια βλάβη, μια τροποποίηση των όρων χρήσης ή μια αύξηση τιμών μπορεί να αποδιοργανώσει τη δραστηριότητα. Χωρίς σχέδιο συνέχειας, η ευπάθεια είναι δομική.

Ένα μοντέλο εκπαιδευμένο σε ιστορικά δεδομένα κληρονομεί τις προκαταλήψεις αυτών των δεδομένων. Στο πλαίσιο της πρόσληψης, της χορήγησης πίστωσης, της τιμολόγησης ασφαλίσεων ή της αξιολόγησης απόδοσης, ένας μεροληπτικός αλγόριθμος μπορεί να οδηγήσει σε διακριτικές αποφάσεις κατά την έννοια του ελβετικού και ευρωπαϊκού δικαίου, ακόμη και χωρίς πρόθεση να βλάψει.

Η απουσία ανθρώπινου ελέγχου επί αυτών των αποφάσεων επιδεινώνει τον κίνδυνο: η διάκριση δεν είναι ορατή στη διαδικασία, εμφανίζεται μόνο στα αποτελέσματα. Στην Ελβετία, η nLPD επιβάλλει ότι οι αυτοματοποιημένες αποφάσεις με σημαντικές νομικές επιπτώσεις σε ένα πρόσωπο υπόκεινται σε δικαίωμα ανθρώπινης αναθεώρησης.

Η πλειονότητα των εργαλείων ΤΝ ευρείας κατανάλωσης (ChatGPT, Copilot, Gemini) επεξεργάζονται δεδομένα σε διακομιστές που βρίσκονται στις Ηνωμένες Πολιτείες. Όταν ένας εργαζόμενος εισάγει εμπιστευτικές πληροφορίες, δεδομένα πελατών, εμπορικά μυστικά ή προσωπικά δεδομένα σε αυτά τα εργαλεία, τα δεδομένα αυτά εξέρχονται από την εταιρική περίμετρο και πιθανώς από την ελβετική και ευρωπαϊκή δικαιοδοσία.

Η παγκόσμια υπολογιστική ισχύς παραμένει σε μεγάλο βαθμό συγκεντρωμένη στις Ηνωμένες Πολιτείες, αφήνοντας την Ευρώπη σε δομική εξάρτηση από τους αμερικανικούς hyperscalers. Αυτή η πραγματικότητα δημιουργεί έναν κίνδυνο κυριαρχίας που οι ελβετικές επιχειρήσεις, ιδίως σε ρυθμιζόμενους τομείς (χρηματοδότηση, υγεία, ασφαλίσεις, δημόσια διοίκηση), δεν μπορούν πλέον να αγνοούν.

Η φιλοξενία δεδομένων είναι κριτήριο ασφάλειας, όχι μόνο άνεσης. Υπάρχουν εναλλακτικές, ιδίως μοντέλα ανοιχτού κώδικα φιλοξενούμενα σε ευρωπαϊκή υποδομή, που επιτρέπουν την επεξεργασία ευαίσθητων δεδομένων χωρίς τη μεταφορά τους εκτός ΕΕ.

Πολλές ελβετικές επιχειρήσεις έχουν υιοθετήσει την ΤΝ, αλλά η στρατηγική συχνά υστερεί. Η υιοθέτηση χωρίς διακυβέρνηση είναι από μόνη της κίνδυνος: οι χρήσεις πολλαπλασιάζονται με αναντίστοιχο τρόπο, οι ευθύνες παραμένουν ασαφείς, και κανένα πλαίσιο δεν ορίζει ποια δεδομένα μπορούν να κοινοποιηθούν σε ποια εργαλεία.

Ο εγκλωβισμός σε προμηθευτή είναι μια μορφή στρατηγικής εξάρτησης. Όταν οι διαδικασίες μιας επιχείρησης βασίζονται σε ένα ιδιόκτητο εργαλείο ΤΝ, η μετάβαση σε μια εναλλακτική καθίσταται δαπανηρή, επικίνδυνη και τεχνικά σύνθετη. Με την πάροδο του χρόνου, ο πάροχος αποκτά δύναμη αγοράς που διαβρώνει τη διαπραγματευτική ικανότητα της επιχείρησης.

Η έλλειψη εσωτερικών ικανοτήτων είναι ένα από τα πρώτα εμπόδια σε μια δομημένη υιοθέτηση. Οι ΜΜΕ γενικά δεν μπορούν να συγκροτήσουν μόνες τους μια ομάδα διακυβέρνησης ΤΝ. Η εξωτερική υποστήριξη, είτε συμβουλευτική, είτε εκπαίδευση είτε τεχνικός πάροχος, αποτελεί επομένως παράγοντα μείωσης του κινδύνου, όχι πολυτέλεια.

Η Ελβετία επιλέγει μια προσέγγιση τεχνολογικής ουδετερότητας: όχι ενιαίος νόμος ΤΝ, αλλά εφαρμογή των υφιστάμενων τομεακών νόμων. Συγκεκριμένα, το 2025-2026, τα ακόλουθα κείμενα εφαρμόζονται άμεσα στις χρήσεις ΤΝ στις επιχειρήσεις:

Ο PFPDT (ομοσπονδιακή αρχή προστασίας δεδομένων) επιβεβαίωσε ότι η nLPD εφαρμόζεται άμεσα στις επεξεργασίες από ΤΝ, χωρίς αμφισημία. Η αρχή παρακολουθεί ιδίως τις περιπτώσεις αναγνώρισης προσώπου, συμπεριφορικής παρακολούθησης και επεξεργασίας ευαίσθητων δεδομένων από αυτοματοποιημένα συστήματα.

Για τις επιχειρήσεις εκτεθειμένες στην ΕΕ, το AI Act προστίθεται ως κανονιστικό επίπεδο. Οι πρώτες απαγορεύσεις (μη αποδεκτό επίπεδο κινδύνου) τέθηκαν σε ισχύ τον Φεβρουάριο 2025. Οι υποχρεώσεις για συστήματα υψηλού κινδύνου εφαρμόζονται σταδιακά έως τον Αύγουστο 2026.

Η διαχείριση κινδύνων ΤΝ δεν απαιτεί να σταματήσετε τα πάντα ούτε να ξαναφτιάξετε τα πάντα. Απαιτεί μια δομημένη προσέγγιση, ανάλογη με το μέγεθος και τον τομέα του οργανισμού. Παρακάτω παρουσιάζονται τα προτεραιοποιημένα βήματα που εντοπίζονται από Ελβετούς επαγγελματίες του χώρου.

Για τις ελβετικές επιχειρήσεις που επιθυμούν να αναπτύξουν επιχειρησιακά εργαλεία ΤΝ, πύλες πελατών, εσωτερικό λογισμικό ή πράκτορες ΤΝ χωρίς να μεταφέρουν τα δεδομένα τους σε αμερικανικούς hyperscalers, η Kleap προτείνει μια προσέγγιση βασισμένη σε τρεις αρχές.

Πρώτη αρχή: ευρωπαϊκή υποδομή. Οι αναπτύξεις βασίζονται σε Hetzner (Γερμανία, πιστοποιημένο ISO 27001) και μοντέλα ανοιχτού κώδικα των οποίων τα δεδομένα δεν εγκαταλείπουν την ΕΕ και δεν επαναχρησιμοποιούνται για εκπαίδευση τρίτων μοντέλων.

Δεύτερη αρχή: υποστήριξη. Η Kleap δεν πουλά ένα εργαλείο, αλλά προτείνει ένα αποτέλεσμα παραδιδόμενο από μια ομάδα. Τρεις οδοί είναι διαθέσιμες: κατασκευή κλειδί στο χέρι μέσω της εταίρου εταιρείας Lionscreative, σύνδεση με εξειδικευμένο πάροχο, ή ανάπτυξη Kleap Entreprise σε καθοδηγούμενη λειτουργία.

Τρίτη αρχή: ιχνηλασιμότητα. Οι ενέργειες των αναπτυγμένων συστημάτων ΤΝ είναι ελεγξήσιμες. Τα διευθυντικά στελέχη μπορούν να τεκμηριώνουν τις αποφάσεις για να ανταποκριθούν στις απαιτήσεις nLPD και να προετοιμαστούν για συμμόρφωση με το AI Act.