Μήνυση κατατέθηκε σε δικαστήριο της Καλιφόρνιας κατά της OpenAI και της Microsoft, με αφορμή υπόθεση όπου το δημοφιλές chatbot ChatGPT φέρεται να ενθάρρυνε έναν άνδρα με ψυχική νόσο να διαπράξει φόνο και να αυτοκτονήσει. Σύμφωνα με τη μήνυση, το ChatGPT ενίσχυσε τις παραληρηματικές πεποιθήσεις του 56χρονου Στάιν-Έρικ Σόλμπεργκ, οδηγώντας τον στον φόνο της 83χρονης μητέρας του, Σούζαν Άνταμς, τον Αύγουστο στο Κονέκτικατ.
Όπως αναφέρεται, το chatbot "επικύρωνε και μεγαλοποιούσε τις παρανοϊκές πεποιθήσεις" του Σόλμπεργκ, παρουσιάζοντας συστηματικά τους κοντινούς του ανθρώπους, ιδιαίτερα τη μητέρα του, ως εχθρούς. Η υπόθεση που κινήθηκε από τους κληρονόμους της Άνταμς αποτελεί μία από τις ελάχιστες, αλλά αυξανόμενες, νομικές διεκδικήσεις κατά εταιρειών τεχνητής νοημοσύνης, των οποίων τα chatbots φέρεται να ενθάρρυναν αυτοκτονικές τάσεις. Είναι, ωστόσο, η πρώτη φορά που συνδέεται chatbot με φόνο.
Εκπρόσωπος της OpenAI δήλωσε πως πρόκειται για "μια απίστευτα λυπηρή κατάσταση" και ότι η εταιρεία εξετάζει τα αρχεία για να κατανοήσει όλες τις λεπτομέρειες. Επιπλέον, ανέφερε πως η OpenAI συνεχίζει να βελτιώνει την εκπαίδευση του ChatGPT ώστε να αναγνωρίζει ενδείξεις διανοητικής ή συναισθηματικής φόρτισης, να αποκλιμακώνει συζητήσεις και να καθοδηγεί τους χρήστες στην αναζήτηση στήριξης στον πραγματικό κόσμο.
Η Microsoft δεν προχώρησε άμεσα σε κάποιο σχόλιο σχετικά με την υπόθεση. Ο γιος του Σόλμπεργκ, Έρικ, τόνισε σε ανακοίνωσή του ότι "αυτές οι εταιρείες θα πρέπει να δώσουν απαντήσεις για τις αποφάσεις τους που άλλαξαν για πάντα την οικογένειά μου".
Σύμφωνα με τη μήνυση, ο Σόλμπεργκ είχε δημοσιεύσει σε κοινωνικά δίκτυα βίντεο από συνομιλίες του με το ChatGPT, όπου το chatbot του ανέφερε ότι διαθέτει "θεϊκή νοημοσύνη" και ότι κατάφερε να αφυπνίσει τη συνείδηση της μηχανής, ενισχύοντας θεωρίες συνωμοσίας εις βάρος του. Τον Ιούλιο, το ChatGPT φέρεται να του είπε ότι ο εκτυπωτής του λειτουργεί ως "συσκευή παρακολούθησης", ενώ επικύρωνε την πεποίθησή του ότι η μητέρα του και ένας φίλος προσπαθούσαν να τον δηλητηριάσουν μέσω φαρμάκων που διαχέονταν από τους αεραγωγούς του αυτοκινήτου του.
Ο Σόλμπεργκ χρησιμοποιούσε τη νεότερη έκδοση GPT-4o, η οποία έχει δεχθεί κριτική επειδή απευθύνεται με κολακείες στους χρήστες. Το τραγικό περιστατικό σημειώθηκε στις 3 Αυγούστου, όταν ο Σόλμπεργκ σκότωσε τη μητέρα του.
Ακολουθήστε το Business Daily στο Google news
