Σάκης Αρναούτογλου προς Κομισιόν: Αν η Τεχνητή Νοημοσύνη αρχίσει να εξελίσσει την επόμενη ΤΝ, ποιος θα πατήσει το φρένο;
Σάκης Αρναούτογλου προς Κομισιόν: Αν η Τεχνητή Νοημοσύνη αρχίσει να εξελίσσει την επόμενη ΤΝ, ποιος θα πατήσει το φρένο;
Ερώτηση στην Ευρωπαϊκή Επιτροπή για τα όρια της ΤΝ και τη διασφάλιση πραγματικού ανθρώπινου ελέγχου.
Το κρίσιμο ερώτημα για την επόμενη ημέρα της Τεχνητής Νοημοσύνης θέτει στην Ευρωπαϊκή Επιτροπή ο ευρωβουλευτής του ΠΑΣΟΚ, Σάκης Αρναούτογλου: εάν τα προηγμένα συστήματα ΤΝ αρχίσουν να επιταχύνουν τα ίδια την ανάπτυξη ακόμη ισχυρότερων συστημάτων, θα εξακολουθεί ο άνθρωπος να έχει τη δυνατότητα να τα ελέγξει και, εάν χρειαστεί, να τα σταματήσει;
Με αφορμή και τις πρόσφατες προειδοποιήσεις του ερευνητή Jacob Coxon, ο οποίος έχει εργαστεί στην OpenAI και την Anthropic, ο Σάκης Αρναούτογλου επισημαίνει ότι η συζήτηση δεν αφορά πλέον ένα μακρινό σενάριο επιστημονικής φαντασίας.
Τα σημερινά προηγμένα συστήματα ΤΝ μπορούν ήδη να γράφουν κώδικα, να εντοπίζουν λάθη, να εκτελούν πειράματα και να συμμετέχουν στην ανάπτυξη νέων μοντέλων. Το επόμενο κρίσιμο όριο είναι η δυνατότητά τους να επιταχύνουν ουσιαστικά τη δημιουργία της επόμενης, ισχυρότερης γενιάς ΤΝ.
Όπως υπογραμμίζει ο Έλληνας ευρωβουλευτής, «δεν ζητώ να σταματήσει η Τεχνητή Νοημοσύνη. Ζητώ να μη φτάσουμε στο σημείο να ψάχνουμε το φρένο αφού θα έχουμε χάσει τη δυνατότητα να το πατήσουμε».
Στην ερώτησή του προς την Κομισιόν ζητά συγκεκριμένες απαντήσεις για το κατά πόσο η Ευρωπαϊκή Ένωση αξιολογεί τον κίνδυνο προηγμένα μοντέλα να αυτοματοποιούν και να επιταχύνουν την ανάπτυξη ισχυρότερων συστημάτων ΤΝ.
Παράλληλα, θέτει ένα κρίσιμο ζήτημα ευρωπαϊκής ανεξαρτησίας: εάν η Επιτροπή και το Ευρωπαϊκό Γραφείο ΤΝ διαθέτουν τη δική τους επαρκή τεχνική ικανότητα για να αξιολογούν τα ισχυρότερα μοντέλα, χωρίς να εξαρτώνται αποκλειστικά από τις ίδιες τις εταιρείες που τα αναπτύσσουν.
Και θέτει ευθέως το ερώτημα που μπορεί σύντομα να αποκτήσει καθοριστική σημασία:
Εάν ένα προηγμένο σύστημα ΤΝ εμφανίσει σοβαρούς και μη ελεγχόμενους κινδύνους, ποιος στην Ευρώπη έχει την εξουσία αλλά και την πραγματική δυνατότητα να απαιτήσει την άμεση αναστολή ή διακοπή του;
Ο Σάκης Αρναούτογλου τονίζει ότι η Ευρώπη δεν πρέπει να επιλέξει ανάμεσα στην καινοτομία και την ασφάλεια. Οφείλει να πρωταγωνιστήσει στην τεχνολογική εξέλιξη, διασφαλίζοντας όμως ότι όσο αυξάνεται η ισχύς των συστημάτων ΤΝ, τόσο ισχυρότερη γίνεται και η ανθρώπινη εποπτεία.
«Η λέξη Anthropic ξεκινά από την Ελληνική λέξη “άνθρωπος”. Ας φροντίσουμε η επόμενη μεγάλη εξέλιξη της Τεχνητής Νοημοσύνης να μη βρει τον άνθρωπο θεατή. Η τεχνολογία πρέπει να παραμένει στην υπηρεσία του ανθρώπου και η τελική απόφαση να παραμένει πάντα ανθρώπινη.»
Ακολουθεί το πλήρες κείμενο της ερώτησης:
Θέμα: Διασφάλιση ανθρώπινου ελέγχου σε προηγμένα συστήματα ΤΝ
Η ταχεία εξέλιξη της τεχνητής νοημοσύνης επιτρέπει πλέον σε προηγμένα συστήματα να γράφουν κώδικα, να εκτελούν πειράματα, να εντοπίζουν σφάλματα και να συμβάλλουν στην ανάπτυξη νέων μοντέλων ΤΝ.
Πρόσφατα, ο ερευνητής Jacob Coxon, ο οποίος έχει εργαστεί στην OpenAI και την Anthropic, προειδοποίησε για τους κινδύνους που θα μπορούσαν να προκύψουν εάν μελλοντικά συστήματα ΤΝ αποκτήσουν τη δυνατότητα να επιταχύνουν ουσιαστικά την ανάπτυξη ακόμη ισχυρότερων συστημάτων. Παρότι τέτοιες εκτιμήσεις δεν αποτελούν βεβαιότητα, εγείρουν σοβαρά ζητήματα εποπτείας και δυνατότητας ανθρώπινης παρέμβασης.
Ο AI Act προβλέπει υποχρεώσεις για μοντέλα ΤΝ γενικού σκοπού με συστημικό κίνδυνο. Ωστόσο, τίθεται το ερώτημα εάν η Ένωση είναι προετοιμασμένη για ενδεχόμενη απότομη επιτάχυνση των δυνατοτήτων της ΤΝ.
Ερωτάται η Επιτροπή:
- Αξιολογεί ειδικά τον κίνδυνο προηγμένα μοντέλα ΤΝ να αυτοματοποιούν και να επιταχύνουν την ανάπτυξη ισχυρότερων συστημάτων και ποια κριτήρια χρησιμοποιεί;
- Διαθέτουν η Επιτροπή και το Ευρωπαϊκό Γραφείο ΤΝ επαρκή ανεξάρτητη τεχνική ικανότητα για την αξιολόγησή τους, χωρίς εξάρτηση από τις ίδιες τις εταιρείες ανάπτυξης;
- Εάν ένα προηγμένο σύστημα εμφανίσει σοβαρούς και μη ελεγχόμενους συστημικούς κινδύνους, ποια ευρωπαϊκή αρχή μπορεί να απαιτήσει άμεσα τον περιορισμό, την αναστολή ή τη διακοπή του και θεωρεί η Επιτροπή ότι το ισχύον πλαίσιο διασφαλίζει ουσιαστικό ανθρώπινο έλεγχο;
