Η τεχνητή νοημοσύνη δεν είναι ουδέτερη. Ήδη επηρεάζει αποφάσεις που αλλάζουν τη ζωή μας — από τη λήψη δανείων έως τις διαγνώσεις ασθενειών και τις προσλήψεις εργαζομένων. Αν δεν υπάρχει σωστός έλεγχος, οι αλγόριθμοι μπορεί να διαιωνίσουν υφιστάμενες ανισότητες.
Πώς μεταφέρονται οι ανισότητες στους αλγορίθμους
Οι αλγόριθμοι δεν δημιουργούνται στο κενό. Προγραμματίστηκαν από ανθρώπους, με βάση ιστορικά δεδομένα που αποτυπώνουν παλαιές οικονομικές συμπεριφορές και αποφάσεις. Όταν τα δεδομένα περιέχουν ανισότητες — για παράδειγμα, περιορισμένη πρόσβαση κάποιων ομάδων σε χρηματοδότηση — το σύστημα μπορεί να τις αναπαράγει.
Το σύστημα προσλήψεων της Amazon παρέχει ένα χαρακτηριστικό παράδειγμα. Εγκαταλείφθηκε όταν διαπιστώθηκε ότι υποβάθμιζε συστηματικά βιογραφικά γυναικών. Ενώ φαινόταν τεχνικά αντικειμενικό, στην πραγματικότητα αναπαρήγαγε έμφυλες ανισότητες που υπήρχαν στα ιστορικά δεδομένα.
Το COMPAS στις ΗΠΑ, σύστημα που εκτιμά τον κίνδυνο υποτροπής κρατουμένων, έδεχθηκε κριτική διότι αποδίδει υψηλότερο βαθμό κινδύνου σε ορισμένες κοινωνικές ομάδες. Αυτό επηρεάζει ευθέως αποφάσεις για εγγύηση και ποινή. Μια διαδικασία που παρουσιάζεται ως αμερόληπτη κρύβει προκαταλήψεις που έχουν σοβαρές συνέπειες.
Ευρωπαϊκή αντιμετώπιση: Νόμοι και κανονισμοί
Η Ευρώπη επιχειρεί να ελέγξει αυτή την κρυμμένη δύναμη. Ο Γενικός Κανονισμός Προστασίας Δεδομένων (GDPR) απαγορεύει τις αποκλειστικά αυτοματοποιημένες αποφάσεις που έχουν νομικές συνέπειες. Κατοχυρώνει το δικαίωμα της ανθρώπινης παρέμβασης και αιτιολόγησης.
Σημαντικότερο ακόμα: ο AI Act, ο πρώτος ολοκληρωμένος νόμος στον κόσμο για την τεχνητή νοημοσύνη, ψηφίστηκε από την Ευρωπαϊκή Ένωση. Εισάγει ενισχυμένη εποπτεία για συστήματα υψηλού κινδύνου — όσα μπορούν να επηρεάσουν σημαντικά τη ζωή, τα δικαιώματα ή τις ευκαιρίες ανθρώπων.
Για αυτά τα συστήματα ζητούνται: αξιολόγηση κινδύνου πριν τη χρήση, έλεγχος ποιότητας δεδομένων, διαφάνεια πλήρης, ουσιαστική ανθρώπινη εποπτεία και δυνατότητα κυρώσεων σε περίπτωση παραβίασης.
Το ζήτημα της λογοδοσίας
Η τεχνητή νοημοσύνη μπορεί να κάνει αποφάσεις που αλλάζουν ζωές. Αυτό δεν είναι μόνο τεχνικό ζήτημα — είναι θέμα προστασίας θεμελιωδών δικαιωμάτων, διαφάνειας και ισότητας. Ο περιορισμός της σε αυτοματοποίηση χωρίς έλεγχο δεν είναι επιλογή, είναι υποχρέωση του νόμου.
