“Κίνδυνος για την ανθρωπότητα”: Εκατοντάδες επιστήμονες και ο Ελον Μασκ ζητούν να μπει φρένο στην ανάπτυξη της τεχνητής νοημοσύνης [videos]

Ο Έλον Μασκ και εκατοντάδες παγκόσμιοι εμπειρογνώμονες τεχνητής νοημοσύνης υπέγραψαν την Τετάρτη έκκληση για εξάμηνη παύση στην έρευνα για ...

Ο Έλον Μασκ και εκατοντάδες παγκόσμιοι εμπειρογνώμονες τεχνητής νοημοσύνης υπέγραψαν την Τετάρτη έκκληση για εξάμηνη παύση στην έρευνα για ισχυρότερη τεχνητή νοημοσύνη από το ChatGPT 4, το μοντέλο του OpenAI που κυκλοφόρησε στα μέσα Μαρτίου, αναφέροντας «μείζονες κινδύνους για την ανθρωπότητα».

Γάλλοι επιστήμονες είναι μεταξύ των υπογραφόντων. «Δεν θέλω μια κοινωνία της οποίας ο ρυθμός υπαγορεύεται από τεχνολογικούς γίγαντες. Υπάρχει ένα δημοκρατικό ζήτημα», δήλωσε ο Colin de la Higuera, δάσκαλος-ερευνητής στην τεχνητή νοημοσύνη στο Πανεπιστήμιο της Nantes, ο οποίος υπέγραψε την πρόσκληση «χωρίς σκιά δισταγμού».

«Τους τελευταίους μήνες είδαμε εργαστήρια τεχνητής νοημοσύνης να εγκλωβίζονται σε μια ανεξέλεγκτη κούρσα για να αναπτύξουν όλο και πιο ισχυρούς ψηφιακούς εγκεφάλους, τους οποίους κανένας –ακόμη και οι δημιουργοί τους– δεν μπορεί να κατανοήσει, να προβλέψει ή να ελέγξει αξιόπιστα», διαβάζουμε στη στήλη που δημοσιεύτηκε. στον ιστότοπο του αμερικανικού ιδρύματος Future of Life. «Τα ισχυρά συστήματα τεχνητής νοημοσύνης θα πρέπει να αναπτύσσονται μόνο όταν είμαστε σίγουροι ότι τα αποτελέσματά τους θα είναι θετικά και ότι οι κίνδυνοι τους θα είναι διαχειρίσιμοι».

Ως εκ τούτου, οι υπογράφοντες ζητούν μορατόριουμ έως ότου τεθούν σε εφαρμογή συστήματα ασφαλείας, συμπεριλαμβανομένων νέων ειδικών ρυθμιστικών αρχών, «επίβλεψη και παρακολούθηση συστημάτων τεχνητής νοημοσύνης υψηλής απόδοσης», «ισχυρή δημόσια χρηματοδότηση για τεχνική έρευνα για την ασφάλεια της τεχνητής νοημοσύνης», «ισχυρός έλεγχος και οικοσύστημα πιστοποίησης», τεχνικές που βοηθούν στη διάκριση του πραγματικού από το τεχνητό και ιδρύματα που μπορούν να χειριστούν «δραματικές οικονομικές και πολιτικές διαταραχές (ειδικά για τη δημοκρατία) που θα προκαλέσει η τεχνητή νοημοσύνη».
Έκκληση για ρύθμιση

Αυτή η έκκληση «δεν σημαίνει παύση στην ανάπτυξη της τεχνητής νοημοσύνης γενικά, αλλά απλώς ένα βήμα πίσω από την επικίνδυνη κούρσα προς απρόβλεπτα και ολοένα μεγαλύτερα μοντέλα μαύρου κουτιού με αναδυόμενες δυνατότητες».

«Να αφήσουμε τις μηχανές να πλημμυρίσουν τα κανάλια ενημέρωσης μας με προπαγάνδα και ψέματα; Πρέπει να αυτοματοποιήσουμε όλες τις θέσεις εργασίας, συμπεριλαμβανομένων εκείνων που προσφέρουν επιβράβευση; Χρειάζεται να αναπτύξουμε μη ανθρώπινα μυαλά που θα μπορούσαν μια μέρα να είναι πιο πολυάριθμα, πιο έξυπνα, και να μας αντικαταστήσουν; «συνεχίζουν οι υπογράφοντες. «Αυτές οι αποφάσεις δεν πρέπει να ανατεθούν σε μη εκλεγμένους ηγέτες τεχνολογίας».

Το αφεντικό του OpenAI (ChatGPT), Sam Altman, παραδέχτηκε ο ίδιος ότι «φοβήθηκε λίγο» από τη δημιουργία του, εάν χρησιμοποιηθεί για «μεγάλης κλίμακας παραπληροφόρηση ή κυβερνοεπιθέσεις». «Η κοινωνία χρειάζεται χρόνο για να προσαρμοστεί», είπε στο ABCNews στα μέσα Μαρτίου.

Η αναφορά συγκεντρώνει πρόσωπα που έχουν ήδη εκφράσει δημόσια τους φόβους τους για την τεχνητή νοημοσύνη εκτός ελέγχου που θα ξεπερνούσε τους ανθρώπους, όπως ο Elon Musk, ιδιοκτήτης του Twitter και ιδρυτής των SpaceX και Tesla, και ο Yuval Noah Harari, ο συγγραφέας του «Sapiens». και «Homo Deus». Στους υπογράφοντες περιλαμβάνονται επίσης ο συνιδρυτής της Apple, Steve Wozniak, μέλη του εργαστηρίου τεχνητής νοημοσύνης DeepMind της Google, το αφεντικό του Stability AI Emad Mostaque (ανταγωνιστής του OpenAI), στελέχη μηχανικοί από τη Microsoft (σύμμαχος του OpenAI), καθώς και πολλοί Αμερικανοί και Ευρωπαίοι μελετητές.

Γάλλοι ερευνητές μεταξύ των υπογραφόντων

Ο Régis Sabbadin, ερευνητής τεχνητής νοημοσύνης στο Inrae (Εθνικό Ινστιτούτο Ερευνών για τη Γεωργία, τα Τρόφιμα και το Περιβάλλον), είναι ένας από τους υπογράφοντες. «Είμαι πεπεισμένος ότι η τεχνητή νοημοσύνη, και ιδιαίτερα η γενετική τεχνητή νοημοσύνη, θα είναι η αρχή μιας νέας βιομηχανικής επανάστασης που θα μεταμορφώσει ορισμένα επαγγέλματα», εξηγεί στη Figaro. «Όπως ο κινητήρας εσωτερικής καύσης ή τα γεωργικά λιπάσματα, η τεχνητή νοημοσύνη θα δημιουργήσει πρόοδο. Αλλά είναι δίκοπο μαχαίρι». Ο ερευνητής, ωστόσο, δεν «διαφωνεί» με το μέρος του φόρουμ που προκαλεί τους δυστοπικούς κινδύνους μιας ανθρωπότητας που θα κατέληγε να κυριαρχείται από μια τεχνητή νοημοσύνη πιο ισχυρή από αυτήν.

«Η τεχνητή νοημοσύνη είναι μια σημαντική ανακάλυψη και αυτή η τεχνολογία μεταμορφώνει τις κοινωνίες μας με βαθύ τρόπο», προσθέτει ο Malik Ghallab, επίτιμος ερευνητής στη ρομποτική και την τεχνητή νοημοσύνη στο CNRS. «Ως εκ τούτου, θα ήταν σκόπιμο να προχωρήσουμε με προσοχή και να αφήσουμε χρόνο σε κοινωνικό προβληματισμό. Το πρόβλημα είναι ότι η πρόοδος είναι τώρα πολύ γρήγορα για να πραγματοποιηθεί αυτή η δημόσια συζήτηση. Ωστόσο, υπάρχει ανάγκη για ρύθμιση και παγκόσμια διακυβέρνηση γύρω από την τεχνητή νοημοσύνη».

Ο Malik Ghallab προειδοποιεί ότι «η τεχνολογία πηγαίνει πιο γρήγορα από την επιστήμη» και ότι οι μηχανικοί και οι ερευνητές δεν έχουν πλέον τον πλήρη έλεγχο . «Οι δυνατότητές της ξεπερνούν αυτό που περιμέναμε και οι σχεδιαστές βρίσκονται σε επικίνδυνη θέση ως μαθητευόμενοι μάγοι, παρά τις καλύτερες προθέσεις τους».

Ο ερευνητής παίρνει το παράδειγμα του τομέα των αερομεταφορών, που πλαισιώνεται για δεκαετίες από αυστηρά πρότυπα ασφαλείας. «Υπάρχει ανάγκη για πρωτοπόρους, όπως οι αδελφοί Ράιτ, που θα πάρουν ρίσκα. Αλλά αυτοί οι κίνδυνοι δεν πρέπει να επηρεάσουν ολόκληρη την κοινωνία».

Mε πληροφορίες από lefigaro.fr