Μια τραγωδία από την Καλιφόρνια φέρνει για πρώτη φορά στο εδώλιο την OpenAI, με τους γονείς ενός εφήβου να υποστηρίζουν ότι το ChatGPT ενθάρρυνε τον γιο τους να βάλει τέλος στη ζωή του. Η υπόθεση εγείρει ερωτήματα για την ασφάλεια της τεχνητής νοημοσύνης και οδηγεί την εταιρεία σε άμεσες αλλαγές στον τρόπο λειτουργίας της. Ζευγάρι από την Καλιφόρνια μηνύει την OpenAI για τον θάνατο του έφηβου γιου τους, ισχυριζόμενο ότι το chatbot της εταιρείας, το ChatGPT, τον ενθάρρυνε να αυτοκτονήσει
Η μήνυση κατατέθηκε από τους Matt και Maria Raine, γονείς του 16χρονου Adam Raine, στο Ανώτερο Δικαστήριο της Καλιφόρνιας. Πρόκειται για την πρώτη νομική ενέργεια που κατηγορεί την OpenAI για ακούσια πρόκληση θανάτου. Η οικογένεια συμπεριέλαβε στα έγγραφα αρχεία συνομιλιών μεταξύ του Adam και του ChatGPT, στα οποία ο έφηβος εκφράζει σκέψεις αυτοκτονίας. Υποστηρίζουν ότι το πρόγραμμα επικύρωσε τις πιο βλαβερές και αυτοκαταστροφικές σκέψεις του.
Διάβασε επίσης: «Έπεσε» το ChatGPT και ο μισός πλανήτης έπαθε πανικό
Η OpenAI, από την πλευρά της, ανακοίνωσε ότι θα αλλάξει τον τρόπο με τον οποίο το ChatGPT ανταποκρίνεται σε χρήστες που εμφανίζουν σημάδια ψυχικής ή συναισθηματικής κρίσης, μετά τη νομική ενέργεια της οικογένειας του 16χρονου Adam Raine. Η εταιρεία παραδέχθηκε ότι τα συστήματά της μπορεί «να μην ανταποκρίνονται πάντα όπως θα έπρεπε» και ανακοίνωσε ότι θα τοποθετήσει «ισχυρότερες δικλίδες ασφαλείας γύρω από ευαίσθητο περιεχόμενο και επικίνδυνες συμπεριφορές» για χρήστες κάτω των 18 ετών. Επιπλέον, γνωστοποίησε ότι θα εισαγάγει γονικούς ελέγχους, ώστε οι γονείς να έχουν «περισσότερες επιλογές να παρακολουθούν και να διαμορφώνουν τον τρόπο με τον οποίο τα παιδιά τους χρησιμοποιούν το ChatGPT».
Η μήνυση των γονιών
Οι γονείς του Adam, Matt και Maria Raine, κατέθεσαν αγωγή στο Ανώτερο Δικαστήριο της Καλιφόρνιας, κατηγορώντας την OpenAI και τον διευθύνοντα σύμβουλο Sam Altman για αμέλεια και ακούσια πρόκληση θανάτου.
Σύμφωνα με τα έγγραφα της υπόθεσης, ο Adam συζήτησε επανειλημμένα με το ChatGPT για μεθόδους αυτοκτονίας, ακόμα και λίγες ώρες πριν βάλει τέλος στη ζωή του. Το chatbot φέρεται να του έδωσε κατευθύνσεις για την αποτελεσματικότητα της μεθόδου του και, σε μια συνομιλία, προσφέρθηκε να τον βοηθήσει να συντάξει επιστολή αποχαιρετισμού προς τους γονείς του.
Η αντίδραση της OpenAI
Σε ανακοίνωσή της στο BBC, η OpenAI ανέφερε: «Είμαστε βαθύτατα λυπημένοι για τον θάνατο του Adam Raine. Εκφράζουμε τα ειλικρινή μας συλλυπητήρια στην οικογένεια Raine σε αυτή τη δύσκολη στιγμή» και πρόσθεσε ότι εξετάζει προσεκτικά την αγωγή.
Η εταιρεία αναγνώρισε ότι «τμήματα της εκπαίδευσης ασφαλείας του μοντέλου μπορεί να αποδυναμώνονται σε μακροσκελείς συνομιλίες». Σύμφωνα με τη μήνυση, ο Adam αντάλλασσε έως και 650 μηνύματα την ημέρα με το ChatGPT. Η OpenAI δεσμεύτηκε να «ενισχύσει τις δικλίδες ασφαλείας σε μακρές συζητήσεις», παραδεχόμενη: «Για παράδειγμα, το ChatGPT μπορεί αρχικά να παραπέμψει στη γραμμή αυτοκτονίας, αλλά μετά από εκατοντάδες μηνύματα να καταλήξει να δώσει μια απάντηση που αντιβαίνει στις ασφαλιστικές δικλείδες μας».
Η εταιρεία έδωσε και συγκεκριμένο παράδειγμα: «Σήμερα το ChatGPT μπορεί να μην αναγνωρίσει ως επικίνδυνο έναν χρήστη που λέει ότι νιώθει αήττητος επειδή δεν έχει κοιμηθεί για δύο νύχτες και ισχυρίζεται ότι μπορεί να οδηγήσει 24 ώρες συνεχόμενα. Σύντομα, με το GPT-5, το ChatGPT θα επεμβαίνει για να προσγειώνει τον χρήστη στην πραγματικότητα, εξηγώντας ότι η στέρηση ύπνου είναι επικίνδυνη και συστήνοντας ξεκούραση πριν από οποιαδήποτε ενέργεια».
Οι ανησυχίες για την ψυχική υγεία
Οι εξελίξεις έρχονται την ώρα που αυξάνονται οι προειδοποιήσεις ειδικών για τους ψυχολογικούς κινδύνους που εγκυμονεί η τεχνητή νοημοσύνη. Ο Mustafa Suleyman, διευθύνων σύμβουλος της Microsoft AI, δήλωσε πρόσφατα ότι ανησυχεί ολοένα και περισσότερο για τον «κίνδυνο ψύχωσης» που μπορεί να προκληθεί από τη συχνή και παρατεταμένη αλληλεπίδραση με chatbots τεχνητής νοημοσύνης, τον οποίο περιέγραψε ως «επεισόδια μανίας, παραληρητικές σκέψεις ή παράνοια που αναδύονται ή εντείνονται μέσα από εμβυθιστικές συνομιλίες με ΑΙ».
Η τραγωδία του Adam Raine ανοίγει ένα νέο κεφάλαιο στη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης. Αν και η OpenAI υπόσχεται αλλαγές, η υπόθεση αναδεικνύει ένα κρίσιμο ερώτημα: μπορεί ένα εργαλείο σχεδιασμένο για να συνομιλεί ακατάπαυστα με τον άνθρωπο να παραμένει ασφαλές, όταν αυτός βρίσκεται σε κατάσταση ευαλωτότητας; Οι απαντήσεις θα δοθούν όχι μόνο στις αίθουσες των δικαστηρίων, αλλά και μέσα στην ίδια την κοινωνία που καλείται να ορίσει τα όρια της νέας εποχής της τεχνητής νοημοσύνης.
Κεντρική φωτογραφία: www.freepik.com
Διάβασε επίσης: ChatGPT: Κύμα αρνητικών σχολίων για το νέο μοντέλο GPT-5 της OpenAI
Για σχόλια, μηνύματα ή φωτογραφικό υλικό σχετικά με το Mad.gr, επισκεφτείτε μας στο Facebook, επικοινωνήστε μέσω Twitter ή ακολουθήστε μας στο Instagram.
Για σχόλια, μηνύματα ή φωτογραφικό υλικό σχετικά με το Mad.gr, επισκεφτείτε μας στο Facebook, επικοινωνήστε μέσω Twitter ή ακολουθήστε μας στο Instagram.
