Ο Σαμ Αλτμαν ζήτησε συγγνώμη για την αποτυχία ενημέρωσης των αστυνομικών αρχών στο Τάμπλερ Ριτζ. Το γεγονός σχετίζεται με την απαγόρευση λογαριασμού στο ChatGPT που αφορούσε τη δράστιδα της επίθεσης.
Τι ακριβώς συνέβη
Στις 23 Απριλίου ο διευθύνων σύμβουλος της OpenAI, Σαμ Αλτμαν, απέστειλε επιστολή με την οποία εκφράζει λύπη για την παράλειψη. Η υπόθεση αφορά την Τζέσι Βαν Ρούτσελααρ, η οποία τον Φεβρουάριο σκότωσε οκτώ ανθρώπους σε σχολείο του Τάμπλερ Ριτζ και στη συνέχεια αυτοκτόνησε.
Η OpenAI είχε απαγορεύσει τον λογαριασμό της Βαν Ρούτσελααρ τον Ιούνιο του προηγούμενου έτους λόγω παραβιάσεων των κανόνων χρήσης. Τα εσωτερικά κριτήρια της εταιρείας όμως δεν προέβλεπαν ειδοποίηση των αρχών για την απαγόρευση.
Στην επιστολή ο Αλτμαν δηλώνει ότι επικοινώνησε τηλεφωνικά με τον δήμαρχο του Τάμπλερ Ριτζ, Ντάριλ Κρακόβκα, και με τον πρωθυπουργό της Βρετανικής Κολομβίας, Ντέιβιντ Εμπι. Τόνισε τη «βαθιά του λύπη» για την οδύνη της τοπικής κοινότητας.
Αντιδράσεις και πλαίσιο
Το ζήτημα προκάλεσε ανησυχία για τα πρωτόκολλα των εταιρειών τεχνολογίας έναντι των αρχών. Κοινωνικοί φορείς και εκπρόσωποι της τοπικής κοινότητας ζήτησαν εξηγήσεις για το πότε και πώς λαμβάνονται αποφάσεις απαγόρευσης λογαριασμών.
Η OpenAI δηλώνει ότι τα κριτήρια απαγόρευσης λογαριασμών βασίζονται σε εσωτερικούς κανόνες ασφαλείας. Οι κανόνες αυτοί δεν προέβλεπαν αυτόματη ενημέρωση της αστυνομίας σε περιπτώσεις παραβιάσεων.
Αντιπρόσωποι της κοινότητας του Τάμπλερ Ριτζ υπογράμμισαν την ανάγκη για καλύτερο συντονισμό μεταξύ ιδιωτικών πλατφορμών και δημόσιων αρχών. Ο δήμαρχος Κρακόβκα ζήτησε εγγυήσεις ότι δεν θα επαναληφθεί παρόμοια παράλειψη.
Τι ακολουθεί / ανάλυση
Η OpenAI δεσμεύτηκε να συνεργαστεί με κυβερνητικούς αξιωματούχους και τις αρμόδιες αρχές. Η εταιρεία ανέφερε ότι θα εξετάσει τα πρωτόκολλα ειδοποίησης και τα κριτήρια αποσύνδεσης λογαριασμών.
Ειδικοί αναφέρουν ότι απαιτείται σαφές πλαίσιο για την ανταλλαγή πληροφοριών μεταξύ πλατφορμών και αστυνομίας. Τέτοιο πλαίσιο θα πρέπει να ορίζει πότε μια απαγόρευση χρήστη δικαιολογεί ειδοποίηση αρχών και με ποιους όρους.
Στην πράξη, αυτό σημαίνει αναθεώρηση διαδικασιών εντοπισμού ρητορικής βίας, αξιολόγησης κινδύνου και άμεσης επικοινωνίας με τοπικές αρχές. Η εφαρμογή νέων πρωτοκόλλων μπορεί να χρειαστεί νομοθετική ή ρυθμιστική υποστήριξη.
Οι τοπικές αρχές του Τάμπλερ Ριτζ και η κυβέρνηση της Βρετανικής Κολομβίας αναμένεται να συμμετάσχουν σε διαβουλεύσεις με την OpenAI τις επόμενες εβδομάδες. Η κοινότητα ζητά διαφάνεια και ξεκάθαρους κανόνες.
