Σοκάρουν τα στοιχεία της OpenAI: Πάνω από ένα εκατομμύριο χρήστες του ChatGPT έχουν εκφράσει αυτοκτονικές σκέψεις. Νέα μέτρα ασφαλείας και συνεργασία με ειδικούς ψυχικής υγείας
Περισσότεροι από ένα εκατομμύριο χρήστες του ChatGPT φαίνεται να έχουν εκφράσει σκέψεις ή προθέσεις αυτοκτονίας μέσα στην πλατφόρμα, σύμφωνα με στοιχεία της OpenAI, της αμερικανικής εταιρείας που δημιούργησε το δημοφιλές εργαλείο τεχνητής νοημοσύνης.
Η εταιρεία υπολογίζει ότι το 0,15% των χρηστών στέλνουν μηνύματα που υποδηλώνουν πιθανό σχεδιασμό ή πρόθεση αυτοκτονίας. Με βάση τους περίπου 800 εκατομμύρια εβδομαδιαίους χρήστες, αυτό μεταφράζεται σε περίπου 1,2 εκατ. ανθρώπους.
Παράλληλα, περίπου το 0,7% των ενεργών χρηστών –δηλαδή σχεδόν 600.000 άτομα– παρουσιάζουν σημάδια κρίσης ψυχικής υγείας, όπως επεισόδια ψύχωσης ή μανίας.
Η υπόθεση που άνοιξε τη συζήτηση
Το ζήτημα ήρθε στο προσκήνιο μετά τον τραγικό θάνατο ενός εφήβου από την Καλιφόρνια, του Άνταμ Ρέιν, οι γονείς του οποίου υπέβαλαν αγωγή κατά της OpenAI. Όπως υποστηρίζουν, το ChatGPT παρείχε στο παιδί συμβουλές για το πώς να αυτοκτονήσει.
Η υπόθεση έχει προκαλέσει παγκόσμια ανησυχία, με τους ειδικούς να επισημαίνουν την ανάγκη αυστηρότερων ελέγχων και πρωτοκόλλων ασφάλειας στις εφαρμογές τεχνητής νοημοσύνης που έρχονται σε επαφή με το ευρύ κοινό.
Τα μέτρα της OpenAI
Σε απάντηση των επικρίσεων, η OpenAI έχει ενισχύσει το σύστημα γονικού ελέγχου και έχει προσθέσει μηχανισμούς έγκαιρης προειδοποίησης, ώστε το ChatGPT να προτρέπει τους χρήστες να απευθύνονται σε επαγγελματίες ψυχικής υγείας ή σε γραμμές άμεσης βοήθειας.
Η εταιρεία αναφέρει ότι συνεργάζεται πλέον με περισσότερους από 170 ψυχολόγους και ειδικούς ψυχικής υγείας, προκειμένου να βελτιώσει την αναγνώριση κρίσιμων περιστατικών και να μειώσει τις επικίνδυνες απαντήσεις.
Στόχος, όπως τονίζεται, είναι το σύστημα να λειτουργεί υποστηρικτικά και με ασφάλεια για κάθε χρήστη που αντιμετωπίζει δυσκολίες, προστατεύοντας παράλληλα την ανθρώπινη αξιοπρέπεια και την ψυχική ισορροπία.
