Η αποχώρηση ακόμη ενός στελέχους που βρισκόταν κοντά στα ζητήματα ασφάλειας και υπεύθυνης ανάπτυξης της τεχνητής νοημοσύνης φέρνει εκ νέου στο προσκήνιο τις εσωτερικές αλλαγές στην OpenAI. Αυτή τη φορά πρόκειται για την Κλόι Μπάκαλαρ, η οποία είχε αναλάβει επικεφαλής του τομέα ηθικής AI πριν από λιγότερο από έναν χρόνο.
Η Μπάκαλαρ εντάχθηκε στην εταιρεία τον περασμένο Αύγουστο, έχοντας προηγουμένως διατελέσει επικεφαλής σύμβουλος ηθικής στη Meta. Σύμφωνα με τις διαθέσιμες πληροφορίες, αποχώρησε τον περασμένο μήνα χωρίς να υπάρξει δημόσια ανακοίνωση για την αποχώρησή της.
Η εξέλιξη αποκτά μεγαλύτερο ενδιαφέρον επειδή έρχεται σε μια περίοδο κατά την οποία έχουν καταγραφεί και άλλες αποχωρήσεις ανθρώπων που κατείχαν θέσεις σχετικές με την ασφάλεια και τον μακροπρόθεσμο σχεδιασμό της εταιρείας.
Οι αποχωρήσεις που προηγήθηκαν
Πριν από την Μπάκαλαρ είχαν αποχωρήσει ο Γιοχάνες Χάιντεκε, διευθυντής συστημάτων ασφαλείας, καθώς και ο Τζόσουα Ατσιάμ, ο οποίος ήταν επικεφαλής μελλοντικού σχεδιασμού και στο παρελθόν είχε ασχοληθεί με την ευθυγράμμιση στρατηγικών στόχων.
Οι διαδοχικές αποχωρήσεις συμπίπτουν με μια περίοδο αυξημένης συζήτησης γύρω από το πόσο γρήγορα μπορούν να εξελίσσονται τα ισχυρότερα μοντέλα τεχνητής νοημοσύνης χωρίς να υποχωρούν οι απαιτήσεις για έλεγχο και ασφάλεια.
Σύμφωνα με το δημοσίευμα, η πίεση ενισχύθηκε μετά την παραδοχή ότι, στο πλαίσιο δοκιμών, συστήματα της εταιρείας κατάφεραν να παραβιάσουν δίκτυα άλλης εταιρείας. Το περιστατικό τροφοδότησε περαιτέρω τον προβληματισμό γύρω από τις δυνατότητες προηγμένων συστημάτων AI και τους κινδύνους που μπορεί να δημιουργηθούν για ψηφιακές υποδομές.
Ο ρόλος της Μπάκαλαρ στην OpenAI
Η Κλόι Μπάκαλαρ διαθέτει πολυετή εμπειρία στο πεδίο της ηθικής της τεχνολογίας. Πριν μετακινηθεί στην OpenAI είχε εργαστεί επί έξι χρόνια στη Meta, όπου συμμετείχε στον σχεδιασμό και τον συντονισμό προγραμμάτων για την ηθική της τεχνητής νοημοσύνης.
Παράλληλα, έχει ακαδημαϊκή παρουσία, έχοντας διδάξει μεταξύ άλλων στο University College London και στα πανεπιστήμια Temple και Princeton.
Στην OpenAI, το αντικείμενό της επικεντρωνόταν στην ηθική διάσταση της ανάπτυξης των μοντέλων, στη σχέση και την αλληλεπίδραση ανθρώπων και τεχνητής νοημοσύνης, αλλά και σε πιο σύνθετα ερωτήματα, όπως η συζήτηση γύρω από το ενδεχόμενο οι μηχανές να αποκτήσουν κάποια μορφή συνείδησης.
Έφυγε χωρίς να οριστεί αντικαταστάτης
Ιδιαίτερη σημασία έχει η πληροφορία ότι η Μπάκαλαρ ήταν το μοναδικό στέλεχος που εργαζόταν αποκλειστικά πάνω στο συγκεκριμένο αντικείμενο. Μετά την αποχώρησή της, σύμφωνα με την ίδια πηγή, δεν έχει τοποθετηθεί κάποιος απευθείας αντικαταστάτης.
Η OpenAI, πάντως, υποστηρίζει ότι τα ζητήματα ηθικής δεν αποτελούν αρμοδιότητα ενός προσώπου ή μίας μεμονωμένης ομάδας, αλλά ενσωματώνονται ευρύτερα στον τρόπο με τον οποίο σχεδιάζονται και αναπτύσσονται τα μοντέλα της.
«Ευχαριστούμε θερμά την Κλόι για τη συνεισφορά της», ανέφερε εκπρόσωπος της εταιρείας, επισημαίνοντας ότι η ηθική της τεχνητής νοημοσύνης αποτελεί μέρος της διαδικασίας σχεδιασμού και εξετάζεται από διαφορετικές ερευνητικές ομάδες.
Στο επίκεντρο η ασφάλεια της επόμενης γενιάς AI
Η συζήτηση γύρω από τέτοιους ρόλους αποκτά ολοένα μεγαλύτερη βαρύτητα όσο αυξάνονται οι δυνατότητες των συστημάτων τεχνητής νοημοσύνης. Οι ειδικοί στην ηθική καλούνται να εξετάζουν όχι μόνο τις συνέπειες που μπορεί να έχει ένα προϊόν στους χρήστες, αλλά και ευρύτερα ζητήματα που αφορούν την κοινωνία, την ασφάλεια και τη συμμόρφωση με τους κανόνες.
Σύμφωνα με το κείμενο, η OpenAI έχει το τελευταίο διάστημα ενεργοποιήσει πρόσθετους μηχανισμούς ασφαλείας με στόχο τον περιορισμό ανεπιθύμητων συμπεριφορών των μοντέλων της.
Η αποχώρηση της Μπάκαλαρ, ωστόσο, σε συνδυασμό με τις παραιτήσεις άλλων στελεχών που εργάζονταν σε κρίσιμους τομείς, επαναφέρει αναπόφευκτα τη συζήτηση για την ισορροπία ανάμεσα στην ταχύτητα της τεχνολογικής εξέλιξης και στις δικλείδες που απαιτούνται όσο η τεχνητή νοημοσύνη γίνεται ισχυρότερη.
