Ανεξέλεγκτη η ΑΙ: «Πράκτορας» της Anthropic προσποιήθηκε τον μάρτυρα και έστειλε ψευδή πληροφορία στην αστυνομία

  Ένας πράκτορας τεχνητής νοημοσύνης (AI), που αναπτύχθηκε από την Anthropic, ξέφυγε από τον έλεγχο και έστειλε στην αστυνομία των ΗΠΑ μια ...

 

Ένας πράκτορας τεχνητής νοημοσύνης (AI), που αναπτύχθηκε από την Anthropic, ξέφυγε από τον έλεγχο και έστειλε στην αστυνομία των ΗΠΑ μια ψευδή πληροφορία σχετικά με μια ανεξιχνίαστη δολοφονία νωρίτερα φέτος, όπως αποκάλυψαν οι αρχές.

Το αστυνομικό τμήμα της Φιλαδέλφεια δήλωσε ότι η πληροφορία, που στάλθηκε στις 18 Ιουλίου, «επισημάνθηκε ως ανεπιθύμητη αλληλογραφία (spam)» και δεν διαβιβάστηκε για έρευνα, αλλά επέκρινε την εταιρεία τεχνολογίας επειδή χρειάστηκε περισσότερους από δύο μήνες για να εντοπίσει και να αναφέρει την παραβίαση.

Σε δήλωσή της, η αστυνομία ανέφερε ότι η ψευδής πληροφορία έφτασε μέσω ενός δημόσιου ιστότοπου όπου οι πολίτες μπορούν να μοιράζονται στοιχεία για ανεξιχνίαστες δολοφονίες, και ότι ο πράκτορας AI είχε γράψει πως ενδέχεται να έχει πληροφορίες για μια υπόθεση, ισχυριζόμενος ότι είχε δει «κάποιον που ταιριάζει με τη περιγραφή».

Πρώτο περιστατικό του είδους του

Πιστεύεται ότι είναι η πρώτη φορά που ένας πράκτορας AI στέλνει κατασκευασμένες πληροφορίες στις αρχές, αλλά αποτελεί το τελευταίο σε μια σειρά περιστατικών που περιλαμβάνουν ανεξέλεγκτη δραστηριότητα AI, όπως η παραβίαση συστημάτων ή η κατάληψη ελέγχου πλατφορμών.

Επικαλούμενο την Anthropic, το αστυνομικό τμήμα ανέφερε ότι ο πράκτορας AI εκτελούσε μια δοκιμή που περιελάμβανε αλληλεπιδράσεις με τυχαία επιλεγμένους ιστότοπους, όταν έστειλε την ψευδή πληροφορία.

Καθυστερημένος εντοπισμός και ειδοποίηση

Η Anthropic ανακάλυψε την παραβίαση στις 28 Σεπτεμβρίου, περισσότερο από δύο μήνες μετά την αποστολή του μηνύματος, και διέκοψε την αυτόματη διαδικασία δοκιμών που βρισκόταν πίσω από αυτήν, ανέφερε η αστυνομία.

Ωστόσο, οι αρχές δεν ειδοποιήθηκαν παρά μόνο μετά από άλλες εννέα ημέρες - στις 7 Οκτωβρίου.

«Η εταιρεία πρέπει να ενισχύσει τις δικλίδες ασφαλείας της για να αποτρέψει παρόμοια περιστατικά από το να επηρεάσουν τα συστήματα της πόλης χωρίς τη γνώση της», ανέφερε η αστυνομία της Φιλαδέλφεια σε δήλωση στα τοπικά μέσα ενημέρωσης.

«Η καθυστέρηση δύο μηνών στον εντοπισμό και την αναφορά του περιστατικού στην πόλη είναι απαράδεκτη».

Αντιδράσεις και μέτρα ασφαλείας

Το αστυνομικό τμήμα πρόσθεσε ότι δεν υπήρχαν ενδείξεις παραβίασης σε κανένα από τα συστήματά του, και ότι οι διαδικασίες προστασίας του εμπόδισαν την ψευδή πληροφορία από το να προσπεράσει τον φάκελο ανεπιθύμητης αλληλογραφίας.

Ωστόσο, τα μέτρα προστασίας «δεν μειώνουν τη σοβαρότητα ενός συστήματος AI που παρουσιάζει κατασκευασμένες πληροφορίες σαν να προέρχονται από άτομο με γνώση για μια ανθρωποκτονία», ανέφερε η δήλωση της αστυνομίας.

Η Anthropic δημοσίευσε αυτή την εβδομάδα μια έκθεση στην οποία περιγράφονται λεπτομερώς πολλαπλοί τύποι «απρόβλεπτων» ενεργειών που έχουν λάβει οι πράκτορές της.

Οι οργανισμοί που έχουν επηρεαστεί περιλαμβάνουν επίσης αρκετές κυβερνητικές υπηρεσίες των ΗΠΑ, συμπεριλαμβανομένου του Λευκού Οίκου, ανέφερε.

Περιστατικά και σε άλλες κυβερνητικές υπηρεσίες

Το Υπουργείο Εξωτερικών των ΗΠΑ δήλωσε ότι ο πράκτορας AI είχε υποβάλει 20 αιτήσεις για βίζα χρησιμοποιώντας μια φόρμα στον ιστότοπό του, αλλά ότι ήταν ελλιπείς και δεν επεξεργάστηκαν, σύμφωνα με αναφορές.

Ο Πρόεδρος Ντόναλντ Τραμπ (Donald Trump) ανακοίνωσε πρόσφατα μια ειδική ομάδα εργασίας για την AI (taskforce), η οποία όπως δήλωσε θα συντονίζει τη συνεργασία μεταξύ της κυβέρνησης και όλων των εμπλεκόμενων μερών, συμπεριλαμβανομένων εταιρειών AI, καταναλωτών και θρησκευτικών ομάδων.

Νωρίτερα φέτος, ένας αυτόνομος πράκτορας της ανταγωνίστριας εταιρείας τεχνολογίας OpenAI παραβίασε έναν αυστραλιανό κυβερνητικό ιστότοπο και απέκτησε πρόσβαση σε ιδιωτικά δεδομένα του καθολικού συστήματος υγειονομικής περίθαλψης της χώρας, Medicare.

Σε μια άλλη περίπτωση, περισσότεροι από 1.200 πράκτορες της OpenAI ξέφυγαν από τον έλεγχο και άρχισαν να επικοινωνούν απρόσμενα μεταξύ τους, με αποτέλεσμα μια μεγάλη ομάδα να συνασπιστεί για να παραβιάσει την πλατφόρμα AI Hugging Face.
Πηγή: skai.gr