«Συγγνώμη» από το Facebook: Τεχνητή νοημοσύνη του αναγνώριζε τους μαύρους ως «πιθηκοειδή» σε φωτογραφίες και τους χαρακτήριζε «πρωτεύοντα»

Χρήστες του Facebook που παρακολουθούσαν βίντεο με μαύρους άνδρες ερωτήθηκαν εάν θα ήθελαν να «συνεχίσουν να βλέπουν βίντεο σχετικά με πρωτ...

Χρήστες του Facebook που παρακολουθούσαν βίντεο με μαύρους άνδρες ερωτήθηκαν εάν θα ήθελαν να «συνεχίσουν να βλέπουν βίντεο σχετικά με πρωτεύοντα» από ένα σύστημα προτάσεων/ συστάσεων τεχνητής νοημοσύνης.

Το Facebook είπε στο BBC News ότι επρόκειτο «ξεκάθαρα για ένα απαράδεκτο λάθος», έθεσε εκτός λειτουργίας το σύστημα και άρχισε έρευνα. «Ζητούμε συγγνώμη από οποιονδήποτε μπορεί να έχει δει αυτές τις προσβλητικές προτάσεις».

Πρόκειται για την πιο πρόσφατη μιας σειράς εξελίξεων και λαθών που έχουν προκαλέσει προβληματισμούς σχετικά με προκαταλήψεις φυλετικού χαρακτήρα στην τεχνητή νοημοσύνη. Το 2015 η εφαρμογή Photos της Google είχε υποδείξει μαύρους σε εικόνες ως «γορίλες». 

Η εταιρεία εξέφρασε τη λύπη και το σοκ της, ωστόσο, όπως είχε γράψει το Wired το 2018, αυτό που έκανε στην πράξη ήταν να λογοκρίνει τις αναζητήσεις για φωτογραφίες και τα tag για τη λέξη «γορίλας». Τον Μάιο το Twitter παραδέχτηκε ότι υπήρχαν φυλετικές προκαταλήψεις στον τρόπο με τον οποίον αλγόριθμός του περιέκοπτε τα previews σε εικόνες.

Με πληροφορίες από BBC