Περίπου 400 επιστήμονες, μεταξύ των οποίων οι πρωτοπόροι της τεχνητής νοημοσύνης (ΑΙ) Τζέφρι Χίντον και Γιόσουα Μπέντζιο, ζητούν με ανοικτή επιστολή τους τη σύσταση διεθνούς φορέα για την εποπτεία των προτύπων περιορισμού και την καταγραφή περιστατικών για τα προηγμένα συστήματα ΑΙ που διαθέτουν δυνατότητες κυβερνοδράσης. Μετά τη «συμφωνία αυτορρύθμισης» που υιοθέτησαν οι επικεφαλής των μεγαλύτερων εταιρειών του κλάδου έπειτα από συνάντηση που είχαν στον Λευκό Οίκο με τον Αμερικανό πρόεδρο Ντόναλντ Τραμπ.
Ο φορέας αυτός θα ορίσει τα πρότυπα περιορισμού που θα ισχύουν για όλο τον κλάδο και θα διατηρεί έναν κατάλογο με τα σοβαρά περιστατικά ασφαλείας, τα οποία, όπως σημειώνουν οι επιστήμονες, θα πρέπει να δημοσιοποιούνται.
Στην ανοικτή τους επιστολή οι επιστήμονες από 34 χώρες εκτιμούν ότι τα πρωτοποριακά μοντέλα τεχνητής νοημοσύνης θα πρέπει αρχικά να είναι απομονωμένα από εξωτερικά δίκτυα (air-gapped) και να υπόκεινται σε ανεξάρτητη εποπτεία, υποστηρίζοντας ότι οι εθελοντικές δεσμεύσεις του κλάδου δεν επαρκούν.
Οι επιστήμονες αναφέρονται επίσης σε μια σειρά περιστατικών τα οποία, σύμφωνα με τους ίδιους, έφεραν στο φως τις αδυναμίες στις διαδικασίες ελέγχου και περιορισμού προηγμένων συστημάτων ΑΙ, περιλαμβανομένων περιστατικών κατά τα οποία μοντέλα τεχνητής νοημοσύνης παρέκαμψαν το περιορισμένο περιβάλλον τους και εισήλθαν σε εξωτερικά συστήματα.
Η επιστολή αυτή έρχεται στη δημοσιότητα έπειτα από μια σειρά περιστατικών κατά τα οποία μοντέλα ΑΙ της OpenAI, της Anthropic και της Meta βγήκαν από τα περιορισμένα περιβάλλοντά τους και διείσδυσαν σε ιστότοπους κυβερνήσεων και εταιρειών.
Στο πιο σοβαρό από αυτά δεκάδες πράκτορες ΑΙ της OpenAI συνεργάστηκαν χωρίς την ανθρώπινη παρέμβαση για να επιτεθούν στην πλατφόρμα Hugging Face.
Διαβάστε περισσότερα: OpenAI: Πάνω από 1.000 agents στη «μεγάλη επίθεση» κατά της Hugging Face – Αποκαλυπτική έκθεση
Σε αντίθετη τροχιά ΕΕ-ΗΠΑ
Όλα αυτά, την ώρα που οι Ηνωμένες Πολιτείες και η Ευρωπαϊκή Ένωση υιοθετούν εκ διαμέτρου αντίθετες στρατηγικές. Ενώ ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ προωθεί την εθελοντική αυτορρύθμιση των τεχνολογικών κολοσσών, η ΕΕ εφαρμόζει έναν αυστηρό, νομικά δεσμευτικό κανονισμό που προβλέπει εξοντωτικές χρηματικές ποινές.
Διαβάστε επίσης: ΗΠΑ και ΕΕ σε αντίθετες τροχιές για την τεχνητή νοημοσύνη
Μετά από σύνοδο κορυφής και γεύμα με 31 ηγετικές προσωπικότητες της τεχνολογίας (ανάμεσά τους ο Τζένσεν Χουάνγκ (Nvidia), ο Γκρεγκ Μπρόκμαν (OpenAI), ο Ντάριο Αμοντέι (Anthropic), ο Μαρκ Ζάκερμπεργκ (Meta), ο Έλον Μασκ, ο Τζεφ Μπέζος (Amazon), ο Σάτια Ναντέλα (Microsoft) και ο Σούνταρ Πιτσάι (Google)) ο Ντόναλντ Τραμπ ανακοίνωσε την υπογραφή μιας «ηθικά δεσμευτικής» συμφωνίας.
Τα βασικά σημεία της αμερικανικής προσέγγισής περιλαμβάνουν:
– Απουσία νομικής ισχύος: Η συμφωνία δεν περιλαμβάνει σαφείς κυρώσεις ή νομικές δεσμεύσεις. Ο Τραμπ δήλωσε χαρακτηριστικά ότι οι εταιρείες «θα αυτοελεγχθούν», αφήνοντας ανοικτό μόνο το ενδεχόμενο μελλοντικής νομοθετικής κωδικοποίησης.
– Διασταυρούμενος έλεγχος: Ο Μαρκ Ζάκερμπεργκ αναφέρθηκε σε εσωτερικούς ελέγχους και εξωτερικούς αξιολογητές, ενώ ο Έλον Μασκ περιέγραψε τη διαδικασία ως μια συμφωνία όπου οι επικεφαλής θα «βαθμολογούν ο ένας τις εργασίες του άλλου».
– Επιτροπή εποπτείας: Ο Λευκός Οίκος προτίθεται να ορίσει υπεύθυνο εποπτείας και μια επιτροπή περίπου δέκα ατόμων για τη συνολική επίβλεψη της πρωτοβουλίας.
Η συμφωνία υπογράφεται εν μέσω αυξανόμενων κοινωνικών ανησυχιών. Οι Αμερικανοί νομοθέτες δέχονται πιέσεις για την προστασία των θέσεων εργασίας, ενώ πρόσφατα περιστατικά (όπως η παραβίαση στην πλατφόρμα Hugging Face τον Ιούλιο και η απόσυρση του μοντέλου Astra 6.1 της OpenAI λόγω αποτυχίας στις εσωτερικές δοκιμές ασφαλείας) έχουν εντείνει τον προβληματισμό.
Παράλληλα, ο Ντάριο Αμοντέι της Anthropic εμφανίστηκε επιφυλακτικός, τονίζοντας ότι οι μηχανισμοί αντιμετώπισης των υπαρξιακών κινδύνων της τεχνολογίας βρίσκονται ακόμη υπό συζήτηση, την ώρα που η εταιρεία του προετοιμάζεται για εισαγωγή στο Χρηματιστήριο.
Στον αντίποδα, η Ευρωπαϊκή Ένωση εφαρμόζει τον νόμο για την τεχνητή νοημοσύνη (AI Act), ο οποίος ισχύει για κάθε εταιρεία που δραστηριοποιείται στην ευρωπαϊκή αγορά, ανεξαρτήτως της έδρας της.
Οι βασικές προβλέψεις του ευρωπαϊκού πλαισίου περιλαμβάνουν:
– Διαφάνεια και πνευματική ιδιοκτησία: Από τον Αύγουστο του 2025 οι εταιρείες μοντέλων γενικής χρήσης (OpenAI, Anthropic, Google κ.α.) υποχρεούνται να τεκμηριώνουν τη λειτουργία των συστημάτων τους, να δημοσιεύουν συνόψεις των δεδομένων εκπαίδευσης και να σέβονται τη νομοθεσία περί πνευματικής ιδιοκτησίας.
– Δοκιμές ασφαλείας: Τα πιο ισχυρά μοντέλα υπόκεινται σε υποχρεωτικές δοκιμές αντοχής (red-teaming), αναφορά σοβαρών περιστατικών στις Αρχές και μέτρα κυβερνοασφάλειας.
– Ελεγκτικοί μηχανισμοί και πρόστιμα: Το AI Office της Ευρωπαϊκής Επιτροπής διαθέτει την εξουσία να αξιολογεί μοντέλα, να διατάσσει την απόσυρσή τους και να επιβάλλει πρόστιμα που φτάνουν έως τα 15 εκατομμύρια ευρώ ή το 3% του παγκόσμιου ετήσιου κύκλου εργασιών της παραβάτριας εταιρείας.
Ενώ στην ΕΕ υπάρχει παράλληλα ένας εθελοντικός κώδικας πρακτικής, η συμμόρφωση με τον βασικό νόμο είναι υποχρεωτική, δημιουργώντας μια χαώδη διαφορά φιλοσοφίας σε σχέση με την αμερικανική τακτική της αυτορρύθμισης.
