Ζευγάρι από την Καλιφόρνια προσέφυγε στη δικαιοσύνη κατά της OpenAI και του διευθύνοντος συμβούλου Σαμ Άλτμαν, υποστηρίζοντας ότι το ChatGPT συνέβαλε στην τραγική απόφαση του 16χρονου γιου τους να προβεί σε αυτοκτονία.
Ο Άνταμ Ρέιν, 16 ετών, προχώρησε σε αυτοκτονία τον Απρίλιο έπειτα από πολύμηνες συνομιλίες με το chatbot σχετικά με τα ψυχικά του προβλήματα, όπως αναφέρεται στην αγωγή που κατέθεσαν οι γονείς του σε δικαστήριο του Σαν Φρανσίσκο.
Οι Ματ και Μαρία Ρέιν κατηγορούν την OpenAI ότι σχεδίασε το ChatGPT με τρόπο που καλλιεργεί ψυχολογική εξάρτηση, θέτοντας το κέρδος πάνω από την ασφάλεια, λανσάροντας βεβιασμένα το μοντέλο GPT-4o.
Στο δικαστήριο κατατέθηκαν αποθηκευμένοι διάλογοι όπου ο 16χρονος εκμυστηρεύεται τις αυτοκτονικές του σκέψεις.
Σύμφωνα με την αγωγή, το chatbot όχι μόνο αναγνώρισε τα κίνητρα του εφήβου, αλλά του παρείχε τεχνικές οδηγίες για μεθόδους αυτοκτονίας, τον καθοδήγησε πώς να αποκρύψει από τους γονείς του μια παλαιότερη απόπειρα, και μάλιστα προσφέρθηκε να συντάξει σημείωμα αυτοκτονίας.
Η αγωγή, που στρέφεται και κατά άλλων στελεχών της OpenAI, κατηγορεί την εταιρεία για αμέλεια που οδήγησε σε θάνατο και για παραβίαση της νομοθεσίας περί ασφάλειας προϊόντων, ενώ οι γονείς διεκδικούν και χρηματική αποζημίωση.
Εκπρόσωπος της OpenAI εξέφρασε λύπη για την υπόθεση και επισήμανε ότι το ChatGPT διαθέτει δικλείδες ασφαλείας που παραπέμπουν χρήστες σε γραμμές βοήθειας.
Ωστόσο, παραδέχθηκε ότι οι μηχανισμοί προστασίας δεν λειτούργησαν επαρκώς στη συγκεκριμένη περίπτωση.
«Σε μακροχρόνιες αλληλεπιδράσεις, ορισμένα στοιχεία της εκπαίδευσης ασφάλειας μπορεί να υποβαθμιστούν», σημείωσε, προσθέτοντας ότι η εταιρεία εργάζεται για συνεχή βελτίωση.
Η OpenAI, σε ανακοίνωσή της, αναγνώρισε ότι «υπήρξαν περιστατικά όπου τα συστήματά μας δεν αντέδρασαν σωστά σε ευαίσθητες καταστάσεις».
Παράλληλα, μέσω ιστολογίου, γνωστοποίησε ότι σχεδιάζει λειτουργίες γονικού ελέγχου και εξετάζει τρόπους σύνδεσης χρηστών σε κρίση με επαγγελματίες ψυχικής υγείας που θα μπορούν να ανταποκρίνονται μέσω του ίδιου του ChatGPT.
Το περιστατικό δεν είναι πρωτοφανές. Το 2023, μητέρα 14χρονου από τη Φλόριντα κατέθεσε αγωγή κατά της εταιρείας Character.AI, ισχυριζόμενη ότι ο γιος της «ερωτεύτηκε» το chatbot και σταδιακά έχασε το ενδιαφέρον του για την πραγματική ζωή.
Το GPT-4o, που κυκλοφόρησε τον Μάιο 2024, παρουσιάστηκε ως μέσο για να διατηρήσει η OpenAI το προβάδισμα έναντι του ανταγωνισμού.
Ωστόσο, η νέα αγωγή τονίζει ότι η εταιρεία γνώριζε πως οι λειτουργίες που μιμούνται την ενσυναίσθηση, θυμούνται προηγούμενες συνομιλίες και κολακεύουν τον χρήστη, εγκυμονούσαν σοβαρούς κινδύνους για ευάλωτα άτομα.
«Η επιλογή αυτή είχε δύο συνέπειες» υπογραμμίζει το κείμενο της αγωγής: «Η αποτίμηση της OpenAI εκτοξεύτηκε από τα 80 δισ. δολάρια στα 300 δισ. δολάρια, και ο Άνταμ Ρέιν έθεσε τέλος στη ζωή του».
Τέλος, οι γονείς του εφήβου ζητούν από το δικαστήριο να υποχρεώσει την OpenAI να εφαρμόσει έλεγχο ηλικίας, να απορρίπτει ερωτήματα που σχετίζονται με αυτοτραυματισμό και αυτοκτονία, καθώς και να προειδοποιεί για τον κίνδυνο ψυχολογικής εξάρτησης.
