Είναι πραγματικοί οι φόβοι κάποιων επωνύμων ότι παίζουμε με τη φωτιά ή απλά υπερβάλλουν;

Ο Elon Musk (Μεγαλοεπιχειρηματίας, Ερευνητής και CEO της Tesla Motors) ξεκίνησε μια μόδα. Από τότε που μας προειδοποίησε για τους κινδύνους της Τεχνητής Νοημοσύνης (ΤΝ) κάθε είδους ενδιαφερόμενοι μπήκαν στη συζήτηση – μεταξύ αυτών ο Stephen Hawking και ο Bill Gates.

Αν και πιστεύεται ότι έχουμε μπει στην ύστερη, μεταμοντέρνα εποχή των υπολογιστών, όπου δεν εμπιστευόμαστε το λογισμικό που γράφουμε και το λογισμικό δεν εμπιστεύεται εμάς, δεν νομίζω ότι χρειάζεται να ανησυχούμε τόσο πολύ για την ΤΝ. Η ΤΝ θα δημιουργηθεί σε μια εποχή δυσπιστίας κι αυτό είναι καλό. Υπάρχουν όμως κάποια σοβαρότερα θέματα εδώ και δεν έχουν να κάνουν με την έλλειψη εμπιστοσύνης.

Τι πραγματικά εννοούμε με τον όρο Τεχνητή Νοημοσύνη; Μας αρέσει να χρησιμοποιούμε το Τεστ Τούρινγκ*, όμως το τεστ αυτό περιλαμβάνει μια μπανανόφλουδα: όταν κάποιος ζητά από τον υποτιθέμενο υπολογιστή που δοκιμάζεται να κάνει μια αριθμητική πράξη, αυτός δίνει λανθασμένη απάντηση. Μια ΤΝ είναι μια ψυχρή υπολογιστική μηχανή, αλλά αν πρόκειται να μιμηθεί τον άνθρωπο, πρέπει να κάνει και λάθη. Κι όχι μόνο πρέπει να κάνει λάθη, αλλά πρέπει να παραπλανά, να εξαπατά, να αποφεύγει και να είναι ακόμη και αλαζονική αν το απαιτούν οι περιστάσεις.

*Τεστ Τούρινγκ: Ένας υπολογιστής δοκιμάζεται μέσω ερωτήσεων από έναν άνθρωπο που δεν τον βλέπει και πρέπει ο άνθρωπος να αποφανθεί αν έχει να κάνει με μηχανή ή με ανθρώπινο ον από τις απαντήσεις που λαμβάνει.

Αυτό είναι ένα πρόβλημα από μόνο του. Το τεστ του Τούρινγκ δε μας βγάζει πουθενά στην πραγματικότητα. Στην ουσία είναι σαν να κρατάει ένα καθρέφτη: αν μια μηχανή μοιάζει με εμάς (ακόμη και στο να κάνει λάθη ή να εξαπατά) τότε τη θεωρούμε νοήμονα. Όμως τι τελικά ορίζουμε ως «νοημοσύνη»; Η αλήθεια είναι πως δε γνωρίζουμε. Είναι η ικανότητα να τα καταφέρνουμε στις δυσκολίες; Είναι η ικανότητα να νικάμε στο σκάκι; Αυτά όλα όμως μας βοηθούν να ορίζουμε τι δεν είναι νοημοσύνη: σίγουρα δεν είναι η αντιμετώπιση δυσκολιών, η νίκη σε μια παρτίδα σκάκι, η αναγνώριση προσώπων ή η πρόταση λύσεων. Όμως το αρνητικό (τι δεν είναι) δε μας βοηθάει να βρούμε το θετικό (τι είναι). Κι αν δεν έχουμε ορίσει επακριβώς τι συνιστά την ανθρώπινη νοημοσύνη, πώς μπορούμε να μιλάμε καν για Τεχνητή Νοημοσύνη;

Άρα, ίσως τελικά με την έννοια «νοημοσύνη» εννοούμε τη δυνατότητα κατανόησης. Ας δούμε ένα παράδειγμα. Ας υποθέσουμε ότι ένας υπολογιστής μπορεί να μεταφράσει Κινέζικα στα Ελληνικά. Μετά, παίρνουμε έναν άνθρωπο που δε γνωρίζει την Κινεζική και του δίνουμε το πρόγραμμα του υπολογιστή και του ζητάμε να μεταφράσει ένα κινέζικο κείμενο στα Ελληνικά. Με τη βοήθεια του προγράμματος θα το επιτύχει, αλλά αυτό σημαίνει ότι ο άνθρωπος αυτός «καταλαβαίνει» Κινέζικα; Βέβαια όχι. Κι αν αυτό ισχύει για τον άνθρωπο, το ίδιο δεν ισχύει και για τον υπολογιστή;

Αν και δε θα μπορούσαμε να πούμε λοιπόν ότι και οι δύο (άνθρωπος και υπολογιστής) δεν «καταλαβαίνουν» τα κινέζικα, θα μπορούσαμε να πούμε ότι «μεταφράζουν» κινέζικα. Κι αυτή είναι μια ουσιαστική διαφορά. Για τους ανθρώπους υπάρχει σύνδεση μεταξύ της κατανόησης και της ικανότητας μετάφρασης – για τους υπολογιστές, όχι. Οι υπολογιστές συνεχώς μεταφράζουν. Όταν τους δίνεις ένα πρόβλημα, εκείνοι το μεταφράζουν σε γλώσσα μηχανής, κάνουν τους υπολογισμούς και μεταφράζουν πάλι το αποτέλεσμα έτσι ώστε να είναι κατανοητό σε μας. Αυτό δεν είναι κάτι το σπουδαίο. Το σπουδαίο θα ήταν να μας προτείνουν διαφορετικούς τρόπους προσέγγισης και επίλυσης προβλημάτων που ποτέ δεν είχαμε φανταστεί και δεν τους είχαμε προγραμματίσει γι’ αυτό. Αυτό θα σήμαινε κατανόηση του προβλήματος. Κι όσο κι αν οι υπολογιστές εξελίσσονται στη μετάφραση ξένων γλωσσών, αυτό δε θα σήμαινε ότι τις κατανοούν. Η μετάφραση γλωσσών λοιπόν, είναι απλά ένα χρήσιμο εργαλείο, αλλά δεν είναι ένδειξη κατανόησης. Και τελικά, όπως και με τη νοημοσύνη, ούτε και η κατανόηση είναι ένας όρος με ξεκάθαρη έννοια.

Όταν σκεφτόμαστε για την ΤΝ, νομίζω ότι αυτό που τελικά ζητάμε είναι ένα είδος «αυτο-συνείδησης». Και αυτό που μας τρομάζει είναι, ότι, αν κάποιο είδος συνείδησης τελικά υπάρχει στη μηχανή, δεν ξέρουμε ούτε πού, ούτε τι είναι. Αν όμως η νοημοσύνη και η κατανόηση είναι ένα ολισθηρό μονοπάτι, η συνείδηση είναι ακόμη περισσότερο. Γνωρίζω ότι εγώ έχω συνείδηση (αντίληψη της ύπαρξής μου), αλλά δε γνωρίζω πώς και ούτε και γνωρίζω τίποτε για τη συνείδηση (ή μάλλον τη συνειδητότητα) άλλων ατόμων, ανθρώπων ή ζώων. Δεν έχουμε αντίληψη του τι συμβαίνει μέσα στο μυαλό του άλλου.

Στο πρόσφατο συνέδριο της BioFabricate στη Νέα Υόρκη, κάποιος έκανε μια ενδιαφέρουσα παρατήρηση. Υπάρχουν μισή ντουζίνα ιδιότητες που είναι ζωτικές για τους ζώντες οργανισμούς: έχουν όρια, χρειάζονται και καταναλώνουν ενέργεια, αναπαράγονται, αυξάνονται και αλληλεπιδρούν με το περιβάλλον τους. Μπορούμε τεχνητά να κατασκευάσουμε τέτοια συστήματα και να εισάγουμε όλες αυτές τις ιδιότητες μέσα τους. Αλλά θα ονομάζαμε κάτι τέτοιο «ζωή»; Μάλλον όχι. Είτε τεχνητή, είτε φυσική, η ζωή είναι μια έννοια που – όπως και η νοημοσύνη – μας είναι απροσδιόριστη. Η προσπάθεια δημιουργίας συνθετικής ζωής μπορεί να μας βοηθήσει να κατανοήσουμε τι είναι η ζωή, αλλά και τι δεν είναι. Παρόμοια, η προσπάθεια κατασκευής της ΤΝ θα μας μάθει τι είναι νοημοσύνη αλλά και τι δεν είναι.

Αυτό δε σημαίνει ότι μια τέτοια προσπάθεια δε θα είχε σοβαρούς κινδύνους. Αλλά το να προσπαθούμε να φορτώσουμε στους επιστήμονες ένα βάρος για μια έννοια που τελικά μας είναι ακατανόητη, είναι χαμένος κόπος. Κάτι τέτοιο θα είχε σαν αποτέλεσμα να εμποδίσει απλά την έρευνα, την κατανόησή μας για τη «νοημοσύνη» και ίσως να μας εμποδίσει να δούμε τελικά τους αληθινούς κινδύνους που μπορεί να υπάρχουν. Αυτό που μάλλον είναι βέβαιο, είναι ότι η αληθινή ΤΝ βρίσκεται πολλές δεκαετίες μακριά μας, όσο κι αν κάποιοι θέλουν να μας φοβίσουν για το αντίθετο.

Παρόλο που είναι ενδιαφέρον και τρομακτικό να μιλάμε για αυτόνομα ρομπότ που σκοτώνουν ανθρώπους, το πρόβλημα δε βρίσκεται τόσο στη ρομποτική θέληση, όσο στην ανθρώπινη. Ναι οι μηχανές μπορούν πια να αναγνωρίζουν πρόσωπα. Το αν το κάνουν τόσο καλά ή και καλύτερα από τους ανθρώπους, δεν είναι το πρόβλημά μας. Μια μηχανή που νικάει στο σκάκι τον καλύτερο σκακιστή δε θα μπορούσε να ονομαστεί ούτε κατά φαντασία «νοήμων» (ότι κι αν σημαίνει η λέξη). Αλλά εδώ είναι η παγίδα: είτε αναγνωρίζει πρόσωπα, είτε καθοδηγεί ρομποτικά αεροπλάνα με πυραύλους, μια μηχανή πρέπει να είναι συνδεδεμένη με άλλα κέντρα και συστήματα αποφάσεων (ανθρώπινα ή τεχνητά) και αυτά τα συστήματα θα αντανακλούν τελικά την ανθρώπινη εξυπνάδα ή ηλιθιότητα.

Γιατί θεωρούμε ότι οι μηχανές είναι απειλή για την ανθρωπότητα, ενώ η αληθινή απειλή για την ανθρωπότητα είμαστε εμείς οι ίδιοι. Στις ταινίες, απλώς αναπαράγουμε αυτό το μοτίβο της δικής μας συμπεριφοράς και το μεταφέρουμε στα ρομπότ κάθε είδους και μορφής. Και αυτή την τάση μας για αυτοκαταστροφή τη θεωρούμε «νοημοσύνη», μια νοημοσύνη που θα αποκτήσουν και οι μηχανές που κατασκευάζουμε. Και αυτό μπορεί να είναι το αληθινά τρομακτικό: η αυτοκαταστροφικότητα που έχουμε σαν είδος. Εμείς οι άνθρωποι δεν καταλαβαίνουμε τι είναι το ρίσκο τις περισσότερες φορές. Δεν καταλαβαίνουμε τι σημαίνει «ψευδής θετική τιμή» (false positi-ve) ή καμπύλη ROC (Receiver Operating Characteristic – όρος της στατιστικής) ούτε θεωρίες πιθανοτήτων.

Για παράδειγμα, τι θα γινόταν αν το FBI έκανε μια έρευνα κι εύρισκε αυτούς που, ενώ εργάζονταν στο World Trade Center αλλά δεν πήγαν στη δουλειά τους την ημέρα της τρομοκρατικής επίθεσης (9/11) (υπήρχαν αρκετοί), είχαν μια συγκεκριμένη θρησκεία και εθνικότητα που τους καθιστά επικίνδυνους και άλλα τέτοια χαρακτηριστικά; Σχεδόν σίγουρα θα στιγματίζονταν ως «πιθανοί τρομοκράτες». Πώς αυτοί θα απεδείκνυαν την αθωότητά τους ενάντια σε μια μηχανή «τεχνητής νοημοσύνης»; Το πρόβλημα είναι ότι τελικά χρησιμοποιούμε την τεχνολογία για να καλύψουμε με επιστημονικό τρόπο τις ίδιες και τις ίδιες προκαταλήψεις. Και επιστρέφοντας στο «συμπαθή» μας TERMINATOR, αν κάτι τέτοιο ποτέ θα υπάρξει, θα έχει προγραμματιστεί από την ανθρώπινη ηλιθιότητα. Όπως είπαμε, εμείς οι ίδιοι είμαστε ο αληθινός κίνδυνος για την ανθρωπότητα. Κι αν τελικά αυτό συμβεί, δε θα μας φταίει η ΤΝ.

Άρα τελικά τι πρέπει να φοβόμαστε;

όπως απάντησε κάποιος στο Twitter στον Hawking, «Δε με απασχολεί τόσο η τεχνητή νοημοσύνη, όσο η φυσική ηλιθιότητα».

Θα έπρεπε να φοβόμαστε μήπως χάσουμε τη δυνατότητα που θα μας προσέφερε η ΤΝ να διορθώσουμε τη ζημιά που έχουμε κάνει στον κόσμο μας τώρα κι όχι την πιθανή ζημιά που ίσως κάνει η ΤΝ στο μέλλον (πράγμα απίθανο).

Θα έπρεπε να φοβόμαστε για έρευνες που γίνονται στο σκοτάδι, σε κρυφά εργαστήρια, παρά για έρευνες που γίνονται φανερά. Οι έρευνες που γίνονται ανοιχτά που μπορούν να ελεγχθούν ενώ αυτές που γίνονται κρυφά θα είναι πάντα ανεξέλεγκτες.

Και ο φόβος από μόνος του δε βοηθά. Περισσότερο ακόμη, πρέπει να κατανοήσουμε την έννοια του ρίσκου, της στατιστικής, των πιθανοτήτων, ώστε να παίρνουμε λογικές αποφάσεις σχετικά με τον κόσμο στον οποίο ζούμε. Να κατανοήσουμε τις συνέπειες των αναξιόπιστων συστημάτων («νοημόνων» ή όχι). Ακόμη περισσότερο, να γνωρίζουμε τις προκαταλήψεις μισαλλοδοξίες και να βεβαιωθούμε ότι δε θα φτιάξουμε συστήματα που θα προσδώσουν στη βλακεία μας επιστημονικό μανδύα. Και τελικά, αυτός είναι ο κύριος λόγος που μας τρομάζει η ΤΝ: φοβόμαστε ότι θα είναι τόσο απάνθρωπη, όσο κι εμείς συνήθως είμαστε. Γι’ αυτό, αν κατανοήσουμε και αντιμετωπίσουμε τα λάθη μας με ειλικρίνεια, τότε δεν έχουμε να φοβόμαστε τίποτε από την ΤΝ.

Δε νομίζω ότι η ΤΝ θα κάνει ποτέ κάτι ιδιαίτερα διαφορετικό χωρίς την ανθρώπινη βούληση. Μπορεί να τη χρησιμοποιήσουμε σαν προκάλυψη για να κρυφτούμε από την ευθύνη για τα λάθη μας, αλλά πάντα τα λάθη θα είναι δικά μας.

from Elichord