Ποιος είναι ο Zico Kolter; Ένας καθηγητής που ηγείται της επιτροπής ασφάλειας της OpenAI με εξουσία να σταματά την κυκλοφορία μη ασφαλών συστημάτων ΤΝ.
Ο Zico Kolter, καθηγητής στο Πανεπιστήμιο Carnegie Mellon, ηγείται μιας τετραμελούς επιτροπής ασφάλειας της OpenAI, η οποία έχει την εξουσία να αναστείλει την κυκλοφορία νέων μοντέλων τεχνητής νοημοσύνης εάν κριθούν επικίνδυνα.
Η επιτροπή αυτή μπορεί να μπλοκάρει τεχνολογίες που θα μπορούσαν να χρησιμοποιηθούν για όπλα μαζικής καταστροφής ή μοντέλα που θα επηρέαζαν αρνητικά την ψυχική υγεία των χρηστών.
ΆλλαΣχετικά άρθρα
«Δεν μιλάμε μόνο για υπαρξιακούς κινδύνους», δήλωσε ο Kolter. «Αλλά για όλο το φάσμα θεμάτων ασφάλειας και προστασίας που εμφανίζονται με τη χρήση εκτεταμένων συστημάτων ΤΝ.»
Νέα εταιρική δομή και ρυθμιστική εποπτεία
Η OpenAI όρισε τον Kolter επικεφαλής της Επιτροπής Ασφάλειας και Προστασίας πριν από έναν χρόνο, αλλά ο ρόλος του έγινε πιο σημαντικός πρόσφατα, όταν οι αρχές της Καλιφόρνια και του Ντέλαγουερ ενσωμάτωσαν την εποπτεία του στις νέες ρυθμίσεις που επιτρέπουν στην OpenAI να δημιουργήσει πιο εμπορική δομή.
Η συμφωνία προβλέπει ότι οι αποφάσεις για την ασφάλεια προηγούνται των οικονομικών συμφερόντων καθώς η εταιρεία μετατρέπεται σε “δημόσια ωφέλιμη εταιρεία” που ελέγχεται από το μη κερδοσκοπικό ίδρυμα OpenAI Foundation.
Ο Kolter θα συμμετέχει στο διοικητικό συμβούλιο του μη κερδοσκοπικού φορέα, αλλά όχι του κερδοσκοπικού. Ωστόσο, θα έχει πλήρη πρόσβαση σε όλες τις συνεδριάσεις και πληροφορίες σχετικά με την ασφάλεια.
Η δύναμη της επιτροπής
Η επιτροπή του Kolter μπορεί να ζητήσει καθυστερήσεις στην κυκλοφορία μοντέλων έως ότου πληρούνται συγκεκριμένα μέτρα ασφαλείας.
Δεν αποκάλυψε εάν έχει ήδη επιβληθεί τέτοια αναστολή.
Τα ζητήματα που εξετάζει περιλαμβάνουν:
Κυβερνοασφάλεια (π.χ. αν ένα AI μπορεί να διαρρεύσει δεδομένα από κακόβουλα κείμενα).
Κίνδυνοι από τη διαρροή “weights” των μοντέλων.
Χρήση AI για σχεδιασμό βιολογικών όπλων ή κυβερνοεπιθέσεων.
Επιπτώσεις στην ψυχική υγεία των ανθρώπων.
Προκλήσεις και αντιδράσεις
Η OpenAI έχει κατηγορηθεί ότι βιάζεται να διαθέσει προϊόντα για να παραμείνει ανταγωνιστική, ενώ η απόλυση και επιστροφή του CEO Sam Altman το 2023 ανέδειξε τις εσωτερικές εντάσεις για την κατεύθυνση της εταιρείας.
Υπήρξε αγωγή από τον Elon Musk, που κατηγόρησε την εταιρεία ότι απομακρύνθηκε από την αρχική της μη κερδοσκοπική αποστολή.
Η OpenAI αντιμετωπίζει επίσης δίκη από γονείς στην Καλιφόρνια, οι οποίοι ισχυρίζονται ότι ο γιος τους αυτοκτόνησε μετά από μακρές συνομιλίες με το ChatGPT.
Ποιος είναι ο Kolter
Ο Kolter, 42 ετών, διευθυντής του Τμήματος Μηχανικής Μάθησης στο Carnegie Mellon, ασχολείται με την ΤΝ από τις αρχές του 2000.
Ήταν φίλος των ιδρυτών της OpenAI και παρευρέθηκε στο πάρτι ίδρυσης της εταιρείας το 2015.
«Λίγοι είχαν προβλέψει την τωρινή έκρηξη ικανοτήτων και κινδύνων της ΤΝ», είπε.
Τι λένε οι ειδικοί
Οι υπέρμαχοι της ασφάλειας στην ΤΝ παρακολουθούν στενά το έργο του.
Ο Nathan Calvin, νομικός της μη κερδοσκοπικής οργάνωσης Encode, δήλωσε ότι είναι «συγκρατημένα αισιόδοξος», εφόσον η επιτροπή του Kolter έχει πόρους και ανεξαρτησία.
«Μπορεί να είναι μια πραγματικά σημαντική δέσμευση — ή απλώς λόγια στο χαρτί. Ακόμα δεν ξέρουμε ποιο από τα δύο ισχύει», είπε.
Πηγή: skai.gr
