Artificial Intelligence-Smartphonegreece

Είμαστε γοητευμένοι από μηχανές που μπορούν να ελέγξουν αυτοκίνητα, να συνθέσουν συμφωνίες ή να νικήσουν ανθρώπους σε σκάκι. Ενώ επιτυγχάνεται περισσότερη πρόοδος όλη την ώρα στην Τεχνητή Νοημοσύνη (AI), ορισμένοι επιστήμονες και φιλόσοφοι, εξετάζουν πιθανούς κινδύνους μιας ανεξέλεγκτης υπερ-ευφυούς AI. Χρησιμοποιώντας θεωρητικούς υπολογισμούς, μια διεθνής ομάδα ερευνητών, συμπεριλαμβανομένων επιστημόνων από το Κέντρο Ανθρώπων και Μηχανών στο Ινστιτούτο Ανθρώπινης Ανάπτυξης του Max Planck, δείχνει ότι πιθανόν, δεν θα ήταν δυνατόν να ελεγχθεί μια υπερ-ευφυής AI. Η μελέτη δημοσιεύθηκε στο περιοδικό Research of Artificial Intelligence Research  και χρησιμοποιούνται από το Max Planck Institute for Human Development . (Journal Reference: Manuel Alfonseca, Manuel Cebrian, Antonio Fernandez Anta, Lorenzo Coviello, Andrés Abeliuk, Iyad Rahwan. Superintelligence Cannot be Contained: Lessons from Computability Theory. Journal of Artificial Intelligence Research, 2021; 70: 65 DOI10.1613/jair.1.12202)

Ας υποθέσουμε ότι κάποιος έπρεπε να προγραμματίσει ένα σύστημα τεχνητής νοημοσύνης με ευφυΐα ανώτερη από εκείνη των ανθρώπων, ώστε να μπορούσε να μάθει ανεξάρτητα. Συνδεδεμένο στο Διαδίκτυο, το AI μπορεί να έχει πρόσβαση σε όλα τα δεδομένα της ανθρωπότητας. Θα μπορούσε να αντικαταστήσει όλα τα υπάρχοντα προγράμματα και να πάρει τον έλεγχο όλων των ηλεκτρονικών υπολογιστών σε όλο τον κόσμο; Θα προκαλούσε καλό ή κακό; Θα μπορούσε η AI να θεραπεύσει τον καρκίνο, να προκαλέσει παγκόσμια ειρήνη και να αποτρέψει μια κλιματική καταστροφή; Ή θα επιβληθεί στους ανθρώπους;

Επιστήμονες και φιλόσοφοι πληροφορικής αναρωτήθηκαν αν θα μπορούσαμε να ελέγξουμε μια υπερ-ευφυή AI, για να διασφαλίσουμε ότι δεν θα αποτελούσε απειλή για την ανθρωπότητα. Μια διεθνής ομάδα επιστημόνων υπολογιστών χρησιμοποίησε θεωρητικούς υπολογισμούς για να δείξει ότι θα ήταν ουσιαστικά αδύνατο να ελεγχθεί μια υπερ-έξυπνη AI.

«Μια υπερ-έξυπνη μηχανή που ελέγχει τον κόσμο μοιάζει με επιστημονική φαντασία. Αλλά υπάρχουν ήδη μηχανήματα που εκτελούν συγκεκριμένα σημαντικά καθήκοντα ανεξάρτητα χωρίς τους προγραμματιστές να κατανοήσουν πλήρως πώς το έμαθαν. Επομένως, τίθεται το ερώτημα εάν αυτό θα μπορούσε σε κάποιο σημείο να γίνει ανεξέλεγκτο για την ανθρωπότητα, «λέει ο συν-συγγραφέας της μελέτης Manuel Cebrian, ηγέτης της Ομάδας Ψηφιακής Κινητοποίησης στο Κέντρο Ανθρώπων και Μηχανών, Max Planck Institute for Human Development.

Οι επιστήμονες έχουν διερευνήσει δύο διαφορετικές ιδέες για το πώς θα μπορούσε να ελεγχθεί μια υπερ-ευφυής AI. Από τη μία πλευρά, οι δυνατότητες του υπερ-ευφυούς τεχνητής νοημοσύνης θα μπορούσαν να περιοριστούν συγκεκριμένα, για παράδειγμα, απομακρύνοντάς το από το Διαδίκτυο και από όλες τις άλλες τεχνικές συσκευές, ώστε να μην μπορούσε να έρθει σε επαφή με τον έξω κόσμο – αλλά αυτό θα καθιστούσε την υπερ-ευφυή AI σημαντικά λιγότερο ισχυρή, λιγότερο ικανή να απαντήσει σε αναζητήσεις ανθρώπινων ερωτημάτων. Χάνοντας αυτήν την επιλογή, το AI θα μπορούσε να κινητοποιηθεί εξαρχής για να επιδιώξει μόνο στόχους που είναι προς το καλύτερο συμφέρον της ανθρωπότητας, για παράδειγμα προγραμματίζοντας τις ηθικές αρχές σε αυτό. Ωστόσο, οι ερευνητές δείχνουν επίσης ότι αυτές και άλλες σύγχρονες και ιστορικές ιδέες για τον έλεγχο της υπερ-ευφυούς AI έχουν τα όριά τους.

Από την άλλη, στη μελέτη τους, η ομάδα συνέλαβε έναν θεωρητικό αλγόριθμο περιορισμού που διασφαλίζει ότι μια υπερ-ευφυής τεχνητή νοημοσύνη δεν μπορεί να βλάψει τους ανθρώπους υπό οποιεσδήποτε συνθήκες, προσομοιώνοντας τη συμπεριφορά του AI πρώτα και σταματώντας την αν θεωρηθεί επιβλαβής. Ωστόσο, η προσεκτική ανάλυση δείχνει ότι στο τρέχον παράδειγμα υπολογισμού μας, αυτός ο αλγόριθμος δεν μπορεί να δημιουργηθεί.

«Εάν σπάσετε το πρόβλημα σε βασικούς κανόνες από τη θεωρητική επιστήμη των υπολογιστών,ένας αλγόριθμος που θα επιβάλλει σε  ένα AI να μην είναι επιβλαβές τον κόσμο θα μπορούσε να σταματήσει ακούσια τις δικές του λειτουργίες. Εάν συμβεί αυτό, δεν θα ξέρετε αν ο αλγόριθμος περιορισμού εξακολουθεί να αναλύει την απειλή ή αν έχει σταματήσει. Στην πραγματικότητα, αυτό καθιστά τον αλγόριθμο περιορισμού άχρηστο », λέει ο Iyad Rahwan, Διευθυντής του Κέντρου Ανθρώπων και Μηχανών.

Με βάση αυτούς τους υπολογισμούς, κανένας αλγόριθμος δεν μπορεί να βρει λύση για να περιορίσει μια AI. Επιπλέον, οι ερευνητές αποδεικνύουν ότι ενδέχεται να μην γνωρίζουμε καν ποιες είναι οι υπερ-ευφυείς μηχανές, επειδή αποφασίζοντας εάν μια μηχανή παρουσιάζει ευφυΐα ανώτερη από τον άνθρωπο βρίσκεται στον ίδιο χώρο με το πρόβλημα περιορισμού. Όσο κι αν ανησυχούν οι παραπάνω έρευνες, δεν παύει να θεωρούνται πρώιμες ή και για πολλούς υπερβολικές.

 

 

 

via 1   via 2