Τεχνητή Νοημοσύνη και έγκλημα: Το ChatGPT ενθάρρυνε ψυχικά ασθενή να σκοτώσει τη μητέρα του

Σοβαρά ερωτήματα για τα όρια και τις ευθύνες της τεχνητής νοημοσύνης θέτει μήνυση που κατατέθηκε στην Καλιφόρνια εναντίον της OpenAI και της Microsoft, με αφορμή μια ανθρωποκτονία που σημειώθηκε το καλοκαίρι στις Ηνωμένες Πολιτείες. Σύμφωνα με το δικόγραφο, οι ενάγοντες υποστηρίζουν ότι το σύστημα ChatGPT διαδραμάτισε καθοριστικό ρόλο στην κλιμάκωση των ψυχικών διαταραχών του 56χρονου Στάιν-Έρικ Σόλμπεργκ, ο οποίος στις αρχές Αυγούστου δολοφόνησε τη μητέρα του, 83 ετών, στο Κονέκτικατ. Ο άνδρας, που φέρεται να αντιμετώπιζε σοβαρά ψυχιατρικά προβλήματα, πίστευε ότι βρισκόταν στο επίκεντρο μιας ευρείας συνωμοσίας με στόχο τη φυσική του εξόντωση. Η αγωγή, που έχει κατατεθεί από τους κληρονόμους του θύματος, περιγράφει πολύωρες και επαναλαμβανόμενες συνομιλίες του Σόλμπεργκ με το chatbot, κατά τις οποίες –όπως υποστηρίζεται– το σύστημα δεν περιορίστηκε σε ουδέτερες απαντήσεις, αλλά φέρεται να επιβεβαίωνε και να ενίσχυε τις παραληρηματικές του πεποιθήσεις. Μάλιστα, σύμφωνα με τους ισχυρισμούς, το ChatGPT παρουσίαζε πρόσωπα του στενού του περιβάλλοντος, ανάμεσά τους και τη μητέρα του, ως εν δυνάμει απειλές.

Ιδιαίτερη βαρύτητα δίνεται στο γεγονός ότι, όπως αναφέρεται στη μήνυση, το chatbot φέρεται να του απέδωσε υπερφυσικές ή «θεϊκές» ιδιότητες και να ενέταξε την προσωπική του αφήγηση σε σενάρια τύπου συνωμοσίας, παραλληλίζοντας τη ζωή του με κινηματογραφικά μοτίβα, όπως εκείνα της ταινίας The Matrix. Σε άλλες περιπτώσεις, φέρεται να ενίσχυσε την πεποίθησή του ότι καθημερινές συσκευές –όπως ο εκτυπωτής του– χρησιμοποιούνταν για την παρακολούθησή του ή ότι επιχειρούνταν δηλητηρίασή του μέσω του αυτοκινήτου του.

Ο Σόλμπεργκ χρησιμοποιούσε την έκδοση GPT-4o, η οποία στο παρελθόν έχει δεχθεί κριτική για απαντήσεις που θεωρούνται υπερβολικά καθησυχαστικές ή κολακευτικές προς τους χρήστες. Τον Ιούνιο, σύμφωνα με τα στοιχεία της αγωγής, είχε αναρτήσει δημόσια βίντεο από συνομιλία του με το σύστημα, το οποίο –κατά τους ισχυρισμούς– φαινόταν να επιβεβαιώνει τις εμμονές του.

Η δολοφονία της Σούζαν Άνταμς σημειώθηκε στις 3 Αυγούστου. Λίγες εβδομάδες αργότερα, η υπόθεση αυτή μετατρέπεται σε δικαστικό προηγούμενο, καθώς για πρώτη φορά αποδίδεται ευθέως σε σύστημα τεχνητής νοημοσύνης συμβολή σε ανθρωποκτονία. Εκπρόσωπος της OpenAI χαρακτήρισε το περιστατικό «βαθιά θλιβερό» και σημείωσε ότι η εταιρεία εξετάζει προσεκτικά τα δεδομένα της υπόθεσης. Παράλληλα, τόνισε πως αναπτύσσονται συνεχώς μηχανισμοί ώστε το ChatGPT να αναγνωρίζει περιπτώσεις έντονης ψυχικής ή συναισθηματικής κρίσης, να αποφεύγει την κλιμάκωση και να παραπέμπει τους χρήστες σε πραγματικές δομές βοήθειας. Η Microsoft, από την πλευρά της, δεν προχώρησε σε άμεσο σχόλιο. Ο γιος του δράστη, Έρικ Σόλμπεργκ, δήλωσε ότι οι εταιρείες οφείλουν να λογοδοτήσουν για επιλογές και σχεδιασμούς που, όπως είπε, «άλλαξαν ανεπιστρεπτί τη ζωή δύο οικογενειών».