OpenAI & Anthropic: Η έρευνα του Reuters για το «φίμωτρο» στους επιστήμονες
Η μάχη για τον έλεγχο της Τεχνητής Νοημοσύνης περνά σε μια νέα, σκοτεινή φάση, καθώς οι μεγαλύτεροι κολοσσοί του κλάδου επιχειρούν να βάλουν «φίμωτρο» στην ανεξάρτητη επιστημονική έρευνα. Μια αποκλειστική έρευνα-βόμβα του ειδησεογραφικού πρακτορείου Reuters αποκαλύπτει ότι η OpenAI και η Anthropic χρησιμοποιούν κρυφούς νομικούς όρους και αυστηρά συμβόλαια για να ελέγξουν, να καθυστερήσουν ή ακόμα και να λογοκρίνουν μελέτες που αποκαλύπτουν επικίνδυνα κενά ασφαλείας στα μοντέλα τους.
Η αποκάλυψη αυτή προκάλεσε την άμεση αντίδραση της ακαδημαϊκής κοινότητας, με περισσότερους από 200 κορυφαίους επιστήμονες από πανεπιστήμια παγκόσμιου βέλους (όπως το MIT, το Stanford και το Harvard) να συνυπογράφουν μια σκληρή ανοιχτή επιστολή. Οι ειδικοί κρούουν τον κώδωνα του κινδύνου, τονίζοντας ότι οι πρακτικές αυτές απειλούν άμεσα τη δημόσια ασφάλεια και τη διαφάνεια, μετατρέποντας τους ανεξάρτητους ελεγκτές σε εσωτερικά όργανα δημοσίων σχέσεων των εταιρειών τεχνολογίας.
Η Παγίδα του «Veto» των 60 Ημερών και η Νομική Λογοκρισία
Σύμφωνα με τα έγγραφα και τα προσχέδια συμβολαίων που έφερε στο φως το Reuters, τόσο η OpenAI όσο και η Anthropic αναγκάζουν τους εξωτερικούς ερευνητές να υπογράψουν συμφωνίες που περιλαμβάνουν έναν όρο «υποχρεωτικής προ-έγκρισης» (prior review) διάρκειας 30 έως 60 ημερών πριν από οποιαδήποτε δημόσια παρουσίαση ή επιστημονική δημοσίευση. Αυτό το χρονικό παράθυρο
δίνει στις εταιρείες το δικαίωμα να ασκούν άτυπο βέτο, πιέζοντας τους συγγραφείς να απαλείψουν ή να υποβαθμίσουν τα αρνητικά ευρήματα.Το πρόσχημα που χρησιμοποιείται συχνότερα από τους κολοσσούς της Silicon Valley είναι η προστασία της «εμπιστευτικής και ιδιοκτησιακής πληροφορίας» (Proprietary Information). Με αυτό το νομικό όπλο, οι εταιρείες απαιτούν την αφαίρεση κρίσιμων τεχνικών λεπτομερειών —όπως τα ακριβή prompts ή τα δεδομένα που χρησιμοποιήθηκαν για την παράκαμψη των φίλτρων ασφαλείας— καθιστώντας τις μελέτες ατελείς και αδύνατον να αξιολογηθούν σωστά από άλλους επιστήμονες (peer review).
Ο Κίνδυνος της «Ρυθμιστικής Αιχμαλωσίας» των Κρατικών Φορέων
Η πρακτική αυτή, όπως επισημαίνεται και στην αναφορά των Κατοχικών Νέων, δημιουργεί έναν τεράστιο κίνδυνο για αυτό που οι οικονομολόγοι και οι νομικοί ονομάζουν «Ρυθμιστική Αιχμαλωσία» (Regulatory Capture). Καθώς οι κυβερνήσεις σε ΗΠΑ, Μεγάλη Βρετανία και Ευρωπαϊκή Ένωση βασίζονται σε αυτά τα κρατικά Ινστιτούτα Ασφάλειας AI (AI Safety Institutes) για τη θέσπιση νόμων, το φιλτράρισμα των ερευνών σημαίνει ότι οι πολιτικοί λαμβάνουν μια εξωραϊσμένη και ελεγχόμενη εικόνα της πραγματικότητας.
Οι επιστήμονες στην ανοιχτή επιστολή τους υπογραμμίζουν ότι αν η OpenAI και η Anthropic έχουν τον πρώτο και τον τελευταίο λόγο για το τι θεωρείται «ασφαλές» ή «εμπιστευτικό», η κρατική εποπτεία ακυρώνεται στην πράξη. Οι εταιρείες αυτορυθμίζονται πίσω από κλειστές πόρτες, κρύβοντας συστηματικά τις αποτυχίες των μοντέλων τους (όπως η ευκολία παραγωγής ψευδών ειδήσεων, οδηγιών για κυβερνοεπιθέσεις ή ρητορικής μίσους) προκειμένου να μην πληγεί η μετοχική τους αξία και η εμπιστοσύνη των επενδυτών.
Διαβάστε επίσης: Η Επόμενη Μέρα της Ανθρωπότητας: Τα νέα πρωτόκολλα για την πρώτη εξωγήινη επαφή
Εκβιασμός και Αποκλεισμός των Ανεξάρτητων "Red Teamers"
Η έρευνα του Reuters αποκαλύπτει επίσης τις σκληρές μεθόδους που επιστρατεύουν οι εταιρείες απέναντι σε όσους αρνούνται να συμμορφωθούν. Οι ερευνητές ασφαλείας, γνωστοί ως "Red Teamers", οι οποίοι αρνήθηκαν να υπογράψουν τα εν λόγω συμβόλαια πνευματικής ιδιοκτησίας, αποκλείστηκαν αμέσως από την πρώιμη πρόσβαση (early access) στα νέα μοντέλα τεχνητής νοημοσύνης επόμενης γενιάς. Ο αποκλεισμός αυτός τους στερεί τη δυνατότητα να πραγματοποιήσουν εγκαίρως ελέγχους πριν τα συστήματα αυτά κυκλοφορήσουν μαζικά στην αγορά.
Η Απάντηση της OpenAI και της Anthropic
Από την πλευρά τους, οι εκπρόσωποι της OpenAI και της Anthropic υπεραμύνθηκαν των πρακτικών τους, δηλώνοντας ότι οι έλεγχοι αυτοί είναι απαραίτητοι για να διασφαλιστεί ότι οι ερευνητές δεν αποκαλύπτουν άθελά τους ευπάθειες που θα μπορούσαν να γίνουν αντικείμενο εκμετάλλευσης από κακόβουλους παράγοντες ή ξένες κυβερνήσεις πριν προλάβουν οι ίδιες οι εταιρείες να εκδώσουν τα απαραίτητα διορθωτικά patches (patches ασφαλείας).
Η Αντίκρουση της Ακαδημαϊκής Κοινότητας
Ωστόσο, οι ακαδημαϊκοί απαντούν ότι υπάρχει τεράστια διαφορά ανάμεσα στην «υπεύθυνη αποκάλυψη» (responsible disclosure) —η οποία αποτελεί πάγια πρακτική στην κυβερνοασφάλεια και προβλέπει μια σύντομη περίοδο χάριτος για τη διόρθωση ενός σφάλματος— και στον απόλυτο έλεγχο των επιστημονικών δημοσιεύσεων. Η επιβολή νομικών περιορισμών στη διάχυση της γνώσης θυμίζει περισσότερο εταιρική λογοκρισία και μονοπώληση της αλήθειας, βάζοντας τα κέρδη πάνω από την ασφάλεια της ανθρωπότητας.
Συχνές Ερωτήσεις (FAQ) για τον Έλεγχο της Έρευνας στην Τεχνητή Νοημοσύνη
1. Τι αποκάλυψε η έρευνα του Reuters για τις OpenAI και Anthropic;
Η έρευνα αποκάλυψε ότι οι δύο εταιρείες αναγκάζουν τους ανεξάρτητους ερευνητές ασφαλείας να υπογράφουν συμβόλαια που τους δίνουν το δικαίωμα να ελέγχουν, να καθυστερούν (από 30 έως 60 ημέρες) ή να τροποποιούν τις επιστημονικές τους δημοσιεύσεις, κρύβοντας πιθανές ευπάθειες των μοντέλων AI.
2. Γιατί αντιδρούν οι επιστήμονες και τι είναι η ανοιχτή επιστολή;
Περισσότεροι από 200 κορυφαίοι επιστήμονες από πανεπιστήμια όπως το MIT και το Harvard υπέγραψαν ανοιχτή επιστολή καταγγέλλοντας αυτές τις πρακτικές. Αντιδρούν διότι ο έλεγχος των δημοσιεύσεων πλήττει τη διαφάνεια, εμποδίζει την αντικειμενική αξιολόγηση των κινδύνων και ακυρώνει την ανεξαρτησία της επιστήμης.
3. Τι σημαίνει ο όρος «Ρυθμιστική Αιχμαλωσία» (Regulatory Capture) σε αυτή την περίπτωση;
Σημαίνει ότι οι κρατικοί φορείς και τα Ινστιτούτα Ασφάλειας AI αναγκάζονται να νομοθετούν βασιζόμενοι αποκλειστικά σε φιλτραρισμένες και εγκεκριμένες από τις ίδιες τις εταιρείες πληροφορίες, με αποτέλεσμα οι νόμοι να είναι ανίσχυροι και να εξυπηρετούν τα εταιρικά συμφέροντα αντί για το δημόσιο συμφέρον.
4. Ποια είναι η διαφορά μεταξύ «υπεύθυνης αποκάλυψης» και εταιρικού ελέγχου;
Η υπεύθυνη αποκάλυψη δίνει στις εταιρείες ένα σύντομο χρονικό περιθώριο να διορθώσουν ένα κενό ασφαλείας πριν αυτό δημοσιευτεί. Ο εταιρικός έλεγχος που καταγγέλλεται, αντίθετα, απαιτεί την οριστική αφαίρεση τεχνικών δεδομένων και prompts, εμποδίζοντας την πλήρη ενημέρωση της επιστημονικής κοινότητας.
Πηγές & Περισσότερες Πληροφορίες:
- Η αρχική έρευνα του πρακτορείου: Reuters - AI Tech Giants and Independent Safety Evaluations
- Το κείμενο της ανοιχτής επιστολής των επιστημόνων: Future of Life Institute - Open Letter for Transparent AI Safety Research
- Ανάλυση της ρυθμιστικής πολιτικής για την τεχνητή νοημοσύνη: Nature - The Fight for Independent AI Auditing and Transparency
Σχόλια
Δημοσίευση σχολίου