Το παρακάτω άρθρο δεν αφορά τον απομακρυσμένο κίνδυνο μιας πιθανής εξέγερσης των ευφυών μηχανών εναντίον μας, αλλά τον πολύ πιο υπαρκτό της κατακόρυφης αύξησης των ποσοστών ανεργίας σε περίπτωση παραγωγής τέτοιων μηχανών. Τίποτα δεν θα απέτρεπε τότε τους υψηλά ιστάμενους από το να αγνοήσουν την ύπαρξη των ανέργων σταματώντας να τους παρέχουν κάθε βοήθεια. Εξάλλου, ο "ανθρωπισμός" για εκείνους δεν είναι παρά μια επένδυση. Οι έρευνες πάνω στην τεχνητή νοημοσύνη πρέπει να παγώσουν. Το συντομότερο δυνατό.
-------------------------------------------------------------------------------------
Εισαγωγή
Η επιστημονική έρευνα, σε γενικές γραμμές, έχει θετικά αποτελέσματα. Παρά το ότι οι επιστημονικές πρόοδοι έχουν μάλλον βλάψει κάποιους κλάδους (και, κατά πολλούς, και το περιβάλλον), η επίδρασή τους στον τρόπο ζωής μας είναι θετική. Λίγο-πολύ όλες οι καθημερινές συσκευές του 21ου αιώνα οφείλουν την ύπαρξή τους στην ανακάλυψη κάποιας ομάδας φυσικών ή χημικών, και η ευκολία του να ζεις τώρα σε σχέση με περασμένες εποχές οφείλεται σχεδόν εξ'ολοκλήρου σε αυτές.
Μπορεί κανείς να βρει εκατοντάδες παραδείγματα επιστημονικών θεωριών και επιτευγμάτων με πρακτικό αντίκτυπο στη καθημερινότητα. Στο διαδίκτυο, φερ'ειπείν, (η πορεία του οποίο ξεκίνησε όταν επιστήμονες στο CERN ανέπτυξαν ένα πρωτόκολλο που θα τους επέτρεπε την μέσω των υπολογιστών τους πρόσβαση στα αρχεία ενός άλλου του δικτύου τους) χρησιμοποιούνται κατά κόρον οι ασύρματες τεχνολογίες και οι δορυφορικές ζεύξεις, που δεν θα είχαμε αν δεν προηγείτο η κατανόηση του ηλεκτρομαγνητισμού με την θεωρία του Maxwell. Όλα τα ηλεκτρονικά υψηλών συχνοτήτων οφείλουν την ύπαρξή τους σε αυτή.
Ένα άλλο παράδειγμα αποτελούν οι επεξεργαστές των υπολογιστών. Οι επεξεργαστές, που είναι, θα λέγαμε, οι "εγκέφαλοι" των υπολογιστών, αποτελούνται από transistors, και αυτά δεν θα υπήρχαν χωρίς τους πειραματισμούς των χημικών με το ντοπάρισμα πυριτίου και γερμανίου ούτως ώστε να προκύπτουν ημιαγωγοί, απ'τους οποίους δημιουργούνται οι δίοδοι που αποτελούν τα transistors των επεξεργαστών μας. Χωρίς τις προόδους φυσική των ημιαγωγών και τους πειραματισμούς μίξεων χημικών ενώσεων δεν θα ήσασταν σε θέση να διαβάζετε το παρόν.
Παραδείγματα εφαρμογών των επαναστάσεων των θετικών επιστημών σε καθημερινές συσκευές ή στην ιατρική, μπορεί κανείς να βρει άπειρες. Η κοινωνία μας χρωστάει πολλά στους επιστήμονες, πράγματι. Αλλά ουδέν καλόν αμιγές κακού. Οι ανακαλύψεις εκείνων στους οποίους οφείλουμε τις καθημερινές μας συσκευές, έχουν χρησιμοποιηθεί και για πάμπολλους, πολύ αμφιλεγόμενους σκοπούς.
Μπορεί οι ανιχνευτές υπέρυθρης ακτινοβολίας να χρησιμοποιούνται στην ανίχνευση ζωντανών θυμάτων σεισμών κάτω απ'τα ερείπια, αλλά χρησιμοποιούνται και για εντοπισμό "στόχων" βομβαρδισμών, οι οποίοι "στόχοι" πολλές φορές είναι γυναικόπαιδα. Μπορεί η ανάπτυξη της ατομικής φυσικής να οδήγησε στην χρήση της, πολύ πιο φιλικής στο περιβάλλον και αποτελεσματικής, ατομικής ενέργειας για την παραγωγή ρεύματος, οδήγησε όμως και στην ατομική βόμβα.
Πολλοί επιστήμονες εκεί έξω δεν έχουν ηθικούς φραγμούς. Όταν στον Α' Π.Π. ζητήθηκε από Γερμανούς και Βρετανούς χημικούς να αναπτύξουν αποτελεσματικά χημικά όπλα, κανένας θεωρητικός ενδοιασμός, ούτε καν ο φόβος ότι θα μπορούσε ο αντίπαλος να τα βρει και να τα χρησιμοποιήσει στα παιδιά τους, δεν τους απέτρεψε απ'το να προτείνουν τη χρήση χλωρίου, υπερίτη, φωσγενίου, και άλλων χημικών ουσιών, σε βάρος του αντιπάλου.
Η ανθρωπότητα έχει αποδείξει περίτρανα πως, όχι απλά δεν είναι ώριμη, αλλά πως ίσως τελικά να είναι τελείως ανάξια των όποιων ανακαλύψεων. Σε γενικές γραμμές όμως, η επιστημονική έρευνα μας έχει επωφελήσει. Τίθεται, όμως, εύλογα το ερώτημα... ως πότε θα ισχύει αυτό; Μήπως έχουμε φτάσει σε ένα σημείο που η περαιτέρω έρευνα σε κάποιους τομείς θα κάνει περισσότερο κακό, παρά καλό; Αφήστε με να εξηγηθώ.
"Επιστήμες", δεν είναι μόνο η φυσική και η χημεία. Όταν ο περισσότερος κόσμος ακούει για επιστήμες φαντάζεται διοπτροφόρους να δουλεύουν με δοκιμαστικούς σωλήνες ή ακατάληπτα μαθηματικά. Υπάρχουν και άλλοι κλάδοι. Βέβαια, το ποιοι από αυτούς είναι "επιστήμες", εξαρτάται από ορισμό που έχει ο καθένας για το τι εστί επιστήμη. Μπορεί κάποιος να ισχυριστεί πως και ένας φιλόλογος ή ένας νομικός είναι επιστήμονες, καθώς έχουν πολλές γνώσεις πάνω σε μια ειδικότητα και καλούνται να επιλύσουν προβλήματα. Προσωπικά, θεωρώ πως επιστήμη είναι όποια ειδικότητα περιλαμβάνει και πειραματικό εκτός από θεωρητικό μέρος.
Ανεξάρτητα όμως από το τι θεωρεί κανείς επιστήμη, σίγουρα σε αυτές υπάγονται και εκείνες που καταπιάνονται με τον ανθρώπινο εγκέφαλο -οι νευροεπιστήμες- και οι επεκτάσεις τους. Μια εξ'αυτών είναι ο κλάδος που ασχολείται με την τεχνητή νοημοσύνη και τα τεχνητά νευρωνικά δίκτυα. Και οι έρευνες σε αυτούς τους τομείς είναι εντατικές, γιατί ορισμένα προβλήματα χρειάζονται για την επίλυσή τους και νοημοσύνη εκτός από υπολογιστική ισχύ. Αξίζει να αναφερθούμε, συνοπτικά, σε κάποια στοιχειώδη του κλάδου αυτού, στις διαφορές νοημοσύνης και υπολογιστικής ισχύος, στην δυσκολία ανάπτυξης νευρωνικών δικτύων και στις πρακτικές εφαρμογές τους.
Υπολογιστές και νοημοσύνη
Με αυτά τα θα καταπιαστούμε στο παρόν μέρος της ανάρτησης. Δεν θα επεκταθούμε πολύ σε αυτά -δεν είναι αυτός ο σκοπός του κειμένου- αλλά αξίζει να αναφερθούν. Για να εκφέρει κάποιος άποψη επί των κινδύνων της τεχνητής νοημοσύνης πρέπει να έχει υπόψιν του περί τίνος πρόκειται. Θα τα απαντήσουμε συνοπτικά -γιατί θα μπορούσαν να γραφτούν τόμοι επ'αυτών.
Επειδή το ερώτημα για τον ορισμό της νοημοσύνης ή ευφυΐας είναι μάλλον φιλοσοφικό (εξίσου φιλοσοφικό με το "τι είναι η ζωή;"), περνάμε κατευθείαν στα άλλα. Το πρώτο θα απαντηθεί στη συνέχεια και αφότου κατανοήσουμε κάποια βασικά πράγματα. Για αρχή θα εξετάσουμε τις διεργασίες που επιτελεί ένα υπολογιστικό σύστημα για να "κατανοήσει" κάτι (π.χ. το περιεχόμενο ενός e-mail ή μιας εικόνας) ή να κάνει έναν "συνειρμό", και τις αντίστοιχες του ανθρώπινου νου.
Είναι ένας υπολογιστής "ευφυής"; Ακούγεται παιδική η ερώτηση. Όσοι έχουν υπόψιν τους το πώς δουλεύει ένα υπολογιστικό σύστημα θα καγχάσουν αν κάποιος τους θέσει σοβαρά ένα τέτοιο ερώτημα. Δεν δραστηριοποιούνται όμως όλοι στον χώρο των υπολογιστών· πολύ περισσότερο, αρκετός κόσμος δεν κατανοεί καν το τι εστί ευφυΐα και σε τι έγκειται η διαφορά του από την υπολογιστική ισχύ. Αυτό έχει ως αποτέλεσμα πολλούς παραλογισμούς.
Δεν είναι λίγοι αυτοί, φερ'ειπείν, που πιστεύουν πως τα συστήματα μεγάλων εταιρειών (π.χ. της google) τους "παρακολουθούν". Πράγματι, τα συστήματα αυτά συλλέγουν και επεξεργάζονται τεράστιους όγκους πληροφοριών, αλλά αυτό δεν συνιστά "παρακολούθηση" με την συμβατική έννοια. Το να σκανάρει ο πάροχος της υπηρεσίας των e-mails σου τα γραφόμενά σου απέχει πολύ από το να τα βλέπει κάποιος, για τον απλό λόγο ότι ένα υπολογιστικό σύστημα δεν κατανοεί τι βλέπει. Ας γίνουμε λίγο πιο σαφείς επ'αυτού.
Όταν αποστέλεις ένα κείμενο ή μια εικόνα μέσω e-mail, υπάρχει μια μεγάλη πιθανότητα (γιατί οι περισσότεροι πάροχοι το κάνουν) αυτό το e-mail να σκανάρεται από ένα υπολογιστικό σύστημα. Όταν λέμε πως ένα τέτοιο e-mail "σκανάρεται", επ'ουδενί δεν εννοούμε πως κάποιος αδιάκριτος διαβάζει τα γραφόμενά σας και τα καταχωρεί σε μια βάση δεδομένων. Υπάρχουν, βέβαια, πληροφορίες ότι συμβαίνει και αυτό, και μάλιστα χωρίς νόμιμη άδεια, αλλά αφενός αυτό είναι άλλο ζήτημα και αφετέρου δεν έχει να κάνει με το "σκανάρισμα".
Όταν ένας υπολογιστής "σκανάρει" ενα e-mail ψάχνει, καταρχάς, για λέξεις κλειδιά. Υπάρχει ένας αλγόριθμος που εντοπίζει συγκεκριμένες σειρές από άσσους και μηδενικά (όλα τα δεδομένα στους
υπολογιστές αποθηκεύονται ως σειρές από "0" και "1"), που αντιστοιχούν σε ορισμένες λέξεις. Αυτές οι λέξεις, χρησιμεύουν στο να "εντοπίζουν" τα συστήματα της εταιρείας τα ενδιαφέροντά σου, ούτως ώστε να σου πετάνε τις αντίστοιχες διαφημίσεις.
Οι λέξεις αυτές είναι προκαθορισμένες στον αλγόριθμο. Μπορεί να υπάρχει, για παράδειγμα, η εντολή να δοθεί βάρος στις λέξεις "παπούτσια", "παπουτσια", "papoutsia" και "paputsia". Όταν ο αλγόριθμος εντοπίζει τις αντίστοιχες σειρές άσσων και μηδενικών, καταχωρεί σε μια βάση ότι ενδιαφέρεσαι για "παπούτσια". Ένας άλλος αλγόριθμος βρίσκει αυτή τη πληροφορία, και δίνει "εντολή" να σου εμφανίζονται διαφημίσεις που περιλαμβάνουν αυτή τη λέξη. Το αποτέλεσμα είναι να τις κλικάρεις και να οδηγείσαι σε σελίδες αφορούσες υποδήματα.
Καταλαβαίνουμε τη διαφορά απ'το να τα βλέπει ένας άνθρωπος;
Ο αλγόριθμος δεν κατανοεί ότι εσύ ενδιαφέρεσαι για παπούτσια. Δεν βγάζει συμπεράσματα για το άτομο και το είναι σου από αυτά που γράφεις. Είναι ένας τυφλοσούρτης προγραμματισμένος να εντοπίζει συγκεκριμένες σειρές άσσων και μηδενικών. Δεν σκέφτεται κάτι για σένα· δεν καταλαβαίνει τι κάνουν οι άλλοι αλγόριθμοι· δεν συνειδητοποιεί τη χρησιμότητα του εντοπισμού· δεν καταλαβαίνει τι συζητάς με τον παραλήπτη.
Ας εξετάσουμε ένα ακόμα παράδειγμα για να δούμε τη διαφορά πιο ξεκάθαρα.
Οι υπολογιστές δύνανται εκτός από λέξεις να εντοπίζουν και εικόνες. Και όχι μόνο εικόνες, αλλά και βίντεο, και ηχητικά αποσπάσματα, και πολλά ακόμα. Αναρωτηθήκατε ποτέ πώς γίνεται το youtube να εντοπίζει τα τραγούδια που ανεβάζετε; Πώς γίνεται να καταλαβαίνει ποια είναι και σε ποιον ανήκουν τα πνευματικά δικαιώματα; Αυτό οφείλεται σε ορισμένους δυνατούς, προηγμένους μαθηματικούς αλγόριθμους που αναλαμβάνουν την αντιστοίχιση δεδομένων σε μοναδικούς αριθμούς. Αυτοί ονομάζονται αλγόριθμοι κατατεμαχισμού (hash algorithms) και συνιστούν ένα προχωρημένο θέμα της πληροφορικής.
"Hash algorithm", ονομάζεται ένας μαθηματικός αλγόριθμος που χρησιμοποιεί σειρές αριθμών ("0" και "1" στους υπολογιστές), για να καταλήξει σε μια σειρά ψηφίων από την οποία δεν θα μπορούμε να εξαγάγουμε την αρχική σειρά αριθμών, όσο καλά και αν ξέρουμε τον αλγόριθμο. Θέτεις μια σειρά αριθμών. Παίρνεις μια δεύτερη. Είναι τεχνικά ανέφικτο από την δεύτερη να καταλήξεις στη πρώτη, όσο πιστά και αν ακολουθήσεις τα βήματα του αλγορίθμου αντίστροφα. Πώς γίνεται αυτό; Αφήστε το στους μαθηματικούς.
Μια χαρακτηριστική εφαρμογή τους είναι η αποθήκευση κωδικών. Όταν δημιουργείτε έναν λογαριασμό σε ένα social network και επιλέγετε κωδικό δεν είναι ο κωδικός που αποθηκεύεται στη βάση δεδομένων -μόνο πολύ τριτοκοσμικές ιστοσελίδες αποθηκεύουν τους κωδικούς καθ'αυτούς-, αλλά το hash του (ο σωστός όρος είναι message digest, αλλά επικρατεί το hash) -ο προκύπτων αριθμός αφότου εισαγάγουμε τον κωδικό στον αλγόριθμο κατατεμαχισμού. Όποτε πληκτρολογείτε τον κωδικό περνάει από τον ίδιο hash algorithm και το αποτέλεσμα συγκρίνεται με το αποθηκευμένο.
Μια "μαγική" ιδιότητα των αλγόριθμων hash, είναι ότι οι προκύπτοντες αριθμοί είναι μοναδικοί. Δεν υπάρχουν ούτε δύο σειρές αριθμών που να οδηγούν στο ίδιο message digest. Οι αλγόριθμοι αυτοί είναι πολύ προσεκτικά σχεδιασμένοι, ώστε να αποκλείεται αυτό το σενάριο, για να αποφευχθούν τα προβλήματα που θα είχαμε σε αυτή τη περίπτωση. Έτσι, δεν υπάρχει πιθανότητα να πληκτρολογήσετε άλλον κωδικό και να μπείτε στον λογαριασμό σας από λάθος του αλγορίθμου.
Ακριβώς όμως όπως μια σειρά από "0" και "1" που αντιστοιχεί σε έναν κωδικό οδηγεί σε συγκεκριμένο message digest, έτσι και τα αρχεία -που είναι επίσης σειρές από "0" και "1"- οδηγούν σε hashes. Τα συστήματα του παρόχου εντοπίζουν μια εικόνα, και εξαγάγουν το hash της για να την αντιστοιχήσουν σε κάποια πληροφορία. Αυτή μπορεί να είναι κάποια που αφορά διαφημίσεις ή τον εντοπισμό πορνογραφίας.
Όμως κάθε pixel μιας εικόνας αντιστοιχεί σε μια σειρά από "0" και "1". Ως εκ τούτου, μπορούμε πολύ εύκολα να αλλάξουμε τελείως το hash της με μικρή επεξεργασία. Για αυτό δεν χρησιμοποιείται εκείνο της εικόνας αυτής καθ'αυτής, αλλά εκείνο που εξάγεται μετά από επεξεργασία της εικόνας τέτοια ώστε να μείνει μόνο η δομή της.
Έστω η παρακάτω εικόνα:
Αν την περάσουμε από έναν hash algorithm και εξαγάγουμε το message digest θα έχουμε έναν μοναδικό αριθμό που της αντιστοιχεί. Έτσι, αν ανέβει στον server της ιστοσελίδας μας θα την εντοπίσουμε, εφόσον περνάμε αυτά που ανεβάζουν οι επισκέπτες από τον ίδιο hash algorithm. Υπάρχει όμως ένα τεράστιο πρόβλημα: ένα pixel της εικόνας να αλλάξει και το προκύπτον message digest θα είναι τελείως διαφορετικό. Πώς θα εντοπιστούν οι εικόνες αφότου υποστούν επεξεργασία;
Η κύρια μέθοδος που έχω υπόψιν μου είναι σμίκρυνση της εικόνας σε μέγεθος 8x8 ώστε να αποτελείται από 64 pixels
(πηγή: http://www.hackerfactor.com/)
Ακολουθεί η απαλοιφή των χρωμάτων:
(πηγή: http://www.hackerfactor.com/)
και ιδού η εικόνα που μπορούμε να περάσουμε από τον hash algorithm. Όπως παρατηρείτε, στην τελευταία υπάρχει μόνο η πολύ βασική δομή της αρχικής. Η ίδια δομή θα προέκυπτε και σε περίπτωση επεξεργασίας παραμέτρων της αρχικής. Να σημειωθεί πως αυτή είναι μια εκ των μεθόδων hashing για εικόνες· υπάρχουν και άλλες που δεν έχω υπόψιν μου και σίγουρα πιο αποτελεσματικές. Η συγκεκριμένη είναι αρκετά απλοϊκή, και αν αλλάξουμε λίγο το μέγεθος της εικόνας ώστε το πρόσωπο να μην είναι στο κέντρο, δεν θα μπορεί να εντοπιστεί γιατί θα έχει άλλη δομή, και ως εκ τούτου διαφορετικό hash. Όταν googlάρουμε για "παρόμοιες εικόνες" δουλεύουν πολλοί αλγόριθμοι μαζί, αλλά σκοπός μας εδώ είναι να πάρουμε μια γενική ιδέα του πώς "κατανοεί" και "εντοπίζει" ένα σύστημα μια εικόνα και τις όμοιές της.
Αυτός είναι ο τρόπος μέσω του οποίου τα συστήματα των παρόχων "καταλαβαίνουν" τι αφορούν οι εικόνες. Με αντίστοιχους τρόπους εξαγωγής της κεντρικής δομής, βγαίνουν hashes που αντιστοιχούν σε βίντεο ή σε μελωδίες, και έτσι ιστοσελίδες όπως το youtube εντοπίζουν τα υπαγόμενα σε πνευματικά δικαιώματα ανεβασμένα αρχεία.
Εδώ νομίζω γίνεται προφανής η διαφορά της "κατανόησης" του υπολογιστή από την κατανόηση ενός ανθρώπου: ο υπολογιστής χρησιμοποιεί τους αριθμούς για να κάνει αντιστοιχίες. Πρόκειται, όπως έλεγε και ένας καθηγητής μου, για απίστευτα ηλίθια μηχανήματα, που κάνουν μόνο προσθέσεις και ολισθήσεις δυαδικών αριθμών, και τα όποια "συμπεράσματα" που βγάζουν -οι τυφλές αντιστοιχίες σε βάσεις δεδομένων- γίνονται με βάση αυτές.
Ο άνθρωπος, ωστόσο, έχει άλλη αντίληψη της εικόνας. Ο άνθρωπος δεν βγάζει συμπεράσματα διαβάζοντας το message digest της και συγκρίνοντάς το με μια βάση δεδομένων, αλλά κοιτάζοντας την εικόνα καθ'αυτή.
Στην παραπάνω εικόνα εμφανίζεται ένα πρόσωπο. Τα πρόσωπα που βλέπουμε στην ζωή δεν αντιστοιχίζονται σε message digests στο κεφάλι μας, αλλά συγκρατούνται με τέτοιο τρόπο που να τα αναγνωρίζουμε ακόμα και αν τα βλέπουμε από άλλη οπτική γωνία -πράγμα που οι αλγόριθμοι των συστημάτων αδυνατούν να κάνουν. Αν βλέπατε το προφίλ του εικονιζόμενου ατόμου, με κάποιον τρόπο θα καταλαβαίνατε πως είναι το ίδιο. Και ας μην είχατε δει ποτέ το προφίλ του.
Το ίδιο θα ίσχυε αν κάναμε crop και paste ένα μέρος του προσώπου σε μια εικόνα με τελείως διαφορετικό background. Ο εγκέφαλός σας θα αναγνώριζε πως είναι αυτό και πως το έχει ξαναδεί, παρόλο που το είχε δει μονάχα ολόκληρο και σε διαφορετικό περιβάλλον. Εδώ τίθεται το ερώτημα... μέσω ποιου μηχανισμού επιτυγχάνεται κάτι τέτοιο; Κάνει ο εγκέφαλος κάποιου είδους "κατατεμαχισμό" στη πληροφορία και αποθηκεύει κάποιου είδους hash της δομής, όπως οι υπολογιστές με τις εικόνες; Πώς καταλαβαίνει ο εγκέφαλος ότι το έχει ξαναδεί, ακόμα και αν αλλάξουμε τελείως τις συνθήκες;
Η επιστήμη που καταπιάνεται με τα ερωτήματα αυτά είναι η επονομαζόμενη "γνωσιακή" (cognitive science). Η γνωσιακή επιστήμη είναι ένα αμάγαλμα επιστημών που καταπιάνονται με την λειτουργία του εγκεφάλου και τη σκέψη του ανθρώπου (και όχι μόνο). Σε αυτές υπάγονται η νευρολογία, η ψυχολογία, η ψυχιατρική, η νευροβιολογία, η γλωσσολογία, η ανθρωπολογία και η επιστήμη υπολογιστών. Η τελευταία μας έχει βοηθήσει πάρα πολύ να κατανοήσουμε πόσο περίπλοκο πράγμα είναι η σκέψη, καθώς πράγματα που είναι τόσο καθημερινά που ούτε καν διερωτώμαστε περί αυτών -η αναγνώριση ενός προσώπου- αποδεικνύονται πολύ πιο περίπλοκα απ'όσο θα μπορούσαμε να φανταστούμε.
Όταν βλέπουμε ένα πρόσωπο στον εγκέφαλό μας δημιουργείται μια "έννοια" που αντιστοιχεί σ'αυτό. Ό,τι είναι για τη φυσική τα στοιχειώδη σωματίδια και τα άτομα, και ό,τι είναι για την χημεία τα άτομα και τα μόρια, είναι για την γνωσιακή επιστήμη οι έννοιες (concepts). Όλα όσα αποθηκεύονται στον εγκέφαλο αποθηκεύονται με τη μορφή εννοιών. Πρακτικά, οι πληροφορίες που έχουμε στο κεφάλι μας είναι χημικές ουσίες στις συνάψεις νευρωνικών διασυνδέσεων -αλληλλοσυνδέσεων εγκεφαλικών κυττάρων-, που όποτε ενεργοποιούνται ανακαλούμε και τις αναζητούμενες πληροφορίες. Αυτό όμως ισχύει σε νευροχημικό επίπεδο. Σε ανώτερα επίπεδα θεωρούμε πως τα αποθηκευμένα είναι "έννοιες".
Όταν κάποιος βλέπει ένα πρόσωπο, το αποθηκεύει στον εγκέφαλό του με την μορφή μιας "έννοιας". Αυτή η έννοια είναι σε κάθε περίπτωση συνδεδεμένη με μια άλλη -ένα όνομα, μια ανάμνηση, ένα συναίσθημα κ.α. Καμία έννοια δεν είναι πραγματικά αναντίστοιχη άλλων. Όταν βλέπεις ένα πρόσωπο και ο εγκέφαλός σου σχηματίζει μια έννοια για αυτό, το συνδέει με άλλες συναφείς.
Μπορεί για παράδειγμα το πρόσωπο να έχει γαλανά μάτια. Έτσι, η έννοιά του συνδέεται με την των γαλανών ματιών, η οποία με τη σειρά της συνδέεται με άλλα πρόσωπα. Για αυτό και έχεις τη δυνατότητα να "θυμηθείς" κάποιον γνωστό βλέποντας το πρόσωπο κάποιου τρίτου. Να δεις έναν γαλανομάτη και να θυμηθείς έναν γνωστό σου με το ίδιο χαρακτηριστικό. Μπορεί ο πρώτος σου έρωτας να είχε γαλανά μάτια, και εκτός από το πρόσωπο να έχεις συνδέσει την έννοια αυτή και με κάποιο συναίσθημα. Αυτό το συναίσθημα ίσως να ενεργοποιείται, έστω και λίγο, όποτε ενεργοποιείται η έννοια "γαλανά μάτια".
Όταν λέμε πως μια έννοια ενεργοποιείται, εννοούμε ότι το μέρος ή τα μέρη του εγκεφάλου στα οποία είναι αποθηκευμένη, διεγείρονται από τα ηλεκτροχημικά σήματα που μεταφέρονται κατά μήκους του άξονα των εγκεφαλικών κυττάρων. Για λόγους ευκολίας θα λέμε για αόριστες "ενεργοποιήσεις". Και μέσω αυτών να κάνεις συνειρμούς.
Η έννοια ενός συγκεκριμένου προσώπου δεν έχει μόνο τα χαρακτηριστικά του. Έχει και τις ακριβείς μαθηματικές αναλογίες του. Αυτή η έννοια περιλαμβάνει μαθηματικές αναλογίες όπως την συμμετρία ή τους λόγους του προσώπου (π.χ. μήκος ματιών προς μήκος του πάνω μέρους της μύτης). Για αυτό και αν αλλάξουμε μια τέτοια παράμετρο θα καταλάβουμε πως κάτι δεν πάει καλά με το πρόσωπο.
Η δυσκολία στο να αναπτυχθούν νευρωνικά δίκτυα ικανά να κάνουν σκέψεις -να έχουν νοημοσύνη- έγκειται ακριβώς εκεί, στις έννοιες. Πώς κάνεις ένα μηχάνημα να υλοποιεί έννοιες από τις δεδομένες πληροφορίες; Πολύ περισσότερο, πώς το κάνεις να έχει συνειρμούς και μάλιστα λογικούς; Να εξαγάγει συμπεράσματα για σένα από τα e-mails σου κατανοώντας το περιεχόμενο και το θέμα συζήτησης, αντί να εντοπίζει μεμονωμένες λέξεις;
Η πληροφορία που συγκρατεί ένας ανθρώπινος εγκέφαλος στο νευρωνικό του μπάχαλο είναι τόσο μεγάλη που οι πιθανότητες λένε πως ένα ερέθισμα θα οδηγούσε σε μη-λογικούς συνειρμούς. Θα μπορούσες, φερ'ειπείν, να δεις ένα πρόσωπο με γαλανά μάτια και αυτό να ενεργοποιήσει την έννοια "μπλε", η οποία με τη σειρά της σε οδηγεί στους πίνακες κάποιου καλλιτέχνη, που σου θυμίζουν ζωγραφική, και να καταλήγεις να σκέφτεσαι... πινέλα. Πόσοι φυσιολογικοί άνθρωποι σκέφτονται πινέλα όταν βλέπουν ένα πρόσωπο; Ίσως αυτό να συμβαίνει σε ορισμένους ιδιότροπους καλλιτέχνες ή μη-λογικούς ανθρώπους, αλλά πώς γίνεται και δεν επικρατούν οι άσχετοι συνειρμοί στο κεφάλι ενός μέσου, φυσιολογικού ανθρώπου, που είναι και περισσότερες αριθμητικά;
Η απάντηση είναι ότι οι έννοιες, προφανώς, δεν δουλεύουν τόσο απλά. Εν προκειμένω, καθίσταται εμφανές ότι παίζει σημαντικό ρόλο και το πόσο συσχετίζεται η σχετιζόμενη έννοια με την ενεργοποιούμενη. Αυτό εξαρτάται από το πόσο ισχυρές είναι οι νευρωνικές διασυνδέσεις ανάμεσά τους. Πώς κάνουμε έναν υπολογιστή να κάνει λογικούς συνειρμούς, λοιπόν; Πώς τον πείθουμε ότι μια Α' έννοια σχετίζεται περισσότερο με μια Β' απ'ό,τι με μια Υ';
Προφανώς πρέπει να καταστήσουμε ισχυρές τις μεταξύ τους διασυνδέσεις. Αλλά αυτό ο ανθρώπινος εγκέφαλος το κάνει από μόνος του -καταλαβαίνει αυτόματα τι σχετίζεται περισσότερο με τι και ισχυροποιεί τις διασυνδέσεις, μια προφανής ένδειξη νοημοσύνης. Θα ήταν "ευφυής" μια μηχανή που θα την είχαμε προγραμματίσει χειροκίνητα να έχει ισχυρές διασυνδέσεις μεταξύ εννοιών;
Πώς κάνουμε ένα υπολογιστικό σύστημα να εντοπίζει παρόμοιες εικόνες όπως ο ανθρώπινος εγκέφαλος, και όχι μέσω αλγορίθμων; Να καταλαβαίνει τα ενδιαφέροντα κάποιου διαβάζοντας τα γραφόμενα των e-mails του και όχι εντοπίζοντας λέξεις;
Όπως καταλαβαίνετε, προηγείται η κατανόηση της λειτουργίας του ανθρώπινου νου, πράγμα πολύ δύσκολο. Αλλά, περιέργως, η πληροφορική μας βοηθάει να κατανοούμε πολλά για αυτόν. Αφενός οι απόπειρες επίλυσης προβλημάτων (πχ οι αυτόματες μεταφράσεις ) μας έχουν δώσει να καταλάβουμε πως η σκέψη μας είναι πολύ πιο περίπλοκη απ'όσο φανταζόμαστε, και αφετέρου ορισμένες εφαρμογές στη πληροφορική μας επιτρέπουν να κάνουμε διάφορες αντιστοιχίες.
Αναφερθήκαμε προηγουμένως στους αλγορίθμους κατατεμαχισμού (hash algorithms). και στην απλοποίηση των εικόνων ώστε να μένει μόνο η δομή τους και να εξαγάγεται το hash της. Θα μπορούσε ο εγκέφαλος να επιτελεί μια αντίστοιχη διεργασία για την αποθήκευση πληροφοριών; Αντίστοιχη. με την έννοια ότι κάτι πολύ περίπλοκο (σαν ένα αρχείο με πολλούς άσσους και μηδενικά) μπορεί με μοναδικό τρόπο να αναχθεί σε κάτι πολύ απλό (σαν έναν αναγνωριστικό αριθμό σαν το message digest);
Μάλλον. Εξάλλου, αν δεν συνέβαινε, δεν θα μπορούσαμε να αναγνωρίσουμε πράγματα που ξέρουμε σε άλλη μορφή. Δεν θα μπορούσαμε, για παράδειγμα, να αναγνωρίζουμε ένα γνωστό πρόσωπο αν έπαιρνε μια άλλη έκφραση ή μια γνώριμη μελωδία παιγμένη από άλλα μουσικά όργανα. Ο γράφων δεν έχει ειδίκευση στη νευροεπιστήμη, αλλά έχει αρκετή τριβή για να πει πως οι διασυνδέσεις νευρώνων που αντιστοιχούν σε μια έννοια, την έχουν αποθηκευμένη σε τόσο υποτυπώδη μορφή που μπορούμε να την αναγνωρίσουμε όσο διαφορετική και αν τη δούμε -αρκεί να μην παύει να είναι η ίδια έννοια. Ακριβώς όπως τα συστήματα σκαναρίσματος εντοπίζουν μια εικόνα -αρκεί να μην έχει παραμορφωθεί σε βαθμό που να έχει αλλάξει η δομή της.
Αυτό είναι και πρακτικό, γιατί σε άλλη περίπτωση θα έπρεπε να συγκρατάμε τεράστιους όγκους πληροφορίας κάθε μέρα, και το μεγαλύτερο μέρος τους θα ήταν περιττό.
Θα φτάσουμε ποτέ λοιπόν σε σημείο οι μηχανές να επιτελούν διεργασίες σαν αυτές του ανθρώπου; Θα μπορέσουν ποτέ οι υπολογιστές να μιλήσουν ή να καταλάβουν τι τους λέμε; Να "σκανάρουν" τα e-mails και να κατανοούν τι συζητάς με τον παραλήπτη, για να ξέρουν τα ενδιαφέροντά σου και να εμφανίζονται οι κατάλληλες διαφημίσεις; Όλα αυτά θα συμβούν αν και εφόσον οι έρευνες στη τεχνητή νοημοσύνη καταλήξουν κάπου, και σίγουρα θα είναι τεράστια επιστημονικά επιτεύγματα.
Η γνωσιακή επιστήμη είναι πολύ ενδιαφέρουσα. Σκοπός μας όμως είναι να αναφερθούμε στα προβλήματα μιας χρήσης της κατανόησης του εγκεφάλου για την δημιουργία ευφυών μηχανών. Λογικά έχετε πάρει μια εντύπωση (μια "έννοια ;) " ) των απαντήσεων των τεθέντων ερωτημάτων. Με τα παραδείγματα που θα φέρουμε θα γίνουν πιο ολοκληρωμένες.
Αυτό που συγκρατάμε προς το παρόν είναι ότι οι μηχανές υπερτερούν απ'την ανθρώπινη διανόηση μονάχα στην υπολογιστική ισχύ -την ακρίβεια και την ταχύτητα υπολογισμών. Σε όλα τα άλλα οι δυνατότητές τους είναι κατώτερες του ανθρώπινου νου. Ο ανθρώπινος νους είναι μια μηχανή που όμοιά της δεν υπάρχει και (ευτυχώς) υπάρχει τεράστια δυσκολία στο να αναπτυχθεί.
Ευφυείς μηχανές
Η ιδέα των ευφυών μηχανών -μηχανών συνδυαζόντων την ανθρώπινη νοημοσύνη με την τεράστια υπολογιστική ισχύ- εξάπτει τη φαντασία του κόσμου. Όλοι έχουν ακούσει για τις προόδους στον τομέα της τεχνητής νοημοσύνης και όλοι φαντάζονται πως κάποια εποχή στο μέλλον τα ομιλούντα ρομποτς θα είναι μέρος της καθημερινότητας. Ορισμένοι κατανοούν πως η τεχνητή νοημοσύνη θα αποδειχθεί κουτί της Πανδώρας για την ανθρωπότητα, με πολλούς εξ'αυτών να θεωρούν πως οι πανέξυπνες αυτές μηχανές θα μας σκλαβώσουν ή και θα μας γενοκτονήσουν. Πόσες ταινίες υπάρχουν με τέτοια θεματολογία;
Όπως θα δούμε παρακάτω, παρόλο που ένα τέτοιο σενάριο θα ήταν πιθανό με κατάλληλα προγραμματισμένα ρομποτς, το τέλος της κυριαρχίας του ανθρώπου στον πλανήτη θα έρθει με πολύ διαφορετικό τρόπο, αν αναπτυχθούν ευφυείς μηχανές. Πάντοτε υπάρχει το βγαλμένο από ταινία ενδεχόμενο να γεννηθεί ένας παρανοϊκός που θα χρησιμοποιήσει στρατιές μηχανών για να κυριαρχήσει στη γη, και ιστορικά υπάρχουν παραδείγματα ατόμων που προσπάθησαν να κατακτήσουν τον κόσμο. Ο κυριότερος κίνδυνος όμως προέρχεται από την πλήρη αντικατάσταση του εργατικού δυναμικού από τις μηχανές. Ένα σενάριο που δεν περιγράφεται σε κανένα θρίλερ, και είναι καταστροφικότερο από όσο μπορεί να διανοηθεί κάποιος.
Με τι εφαρμογές θα καταπιάνεται ένα νευρωνικό δίκτυο; Σε τι χρησιμεύει η δημιουργία μιας ευφυούς μηχανής, τέλος πάντων, και δίνονται κονδύλια για τις έρευνες επ'αυτών; Δεν είναι καλοί και οι υπάρχοντες υπολογιστές;
Λοιπόν, όπως είδαμε παραπάνω, οι σημερινοί υπολογιστές έχουν πολύ περιορισμένες δυνατότητες. Είναι, ως ανεφέρθη, ηλίθια μηχανήματα που το μόνο πράγμα που ξέρουν να κάνουν είναι προσθέσεις και ολισθήσεις αριθμών, και μάλιστα μόνο δυαδικών αριθμών. Ακόμα και οι πολλαπλασιασμοί στους υπολογιστές, μέσω προσθέσεων γίνονται. Οι υπολογιστές είναι ακριβείς στους υπολογισμούς τους αλλά στερούνται κάθε υποψία κατανόησης και δημιουργικής σκέψης, και αυτό συνεπάγεται πως τα προβλήματα καλείται να τα επιλύσει ο άνθρωπος, εκμεταλλευόμενος την ισχύ τους. Θα μας κάνει καλό να μας επιλύουν τα προβλήματα οι υπολογιστές;
Θες λόγω συβαριτισμού, θες λόγω υποχθονίου σχεδίου, θες λόγω ηλιθιότητας, κάποιοι έχουν βαλθεί να "εξασφαλίσουν" στον άνθρωπο ένα μέλλον στο οποίο όλα θα του τα κάνουν οι μηχανές. Το όνειρο των περισσοτέρων είναι να είναι όλη μέρα "αραχτοί και light" και να τους τα κάνουν όλα οι άλλοι. Ο λόγος για τον οποίον υπήρξε δουλεμπόριο, τα εκφυλισμένα όνειρα των συβαριτών να δουλεύουν άλλοι αντί για εκείνους και μάλιστα άνευ ιδιαιτέρου κόστους, είναι ο ίδιος για τον οποίον θέλουν μηχανές-υπηρέτες. Και αυτό το όνειρο θα το πληρώσουν πολύ ακριβά.
Τα νευρωνικά δίκτυα δεν θα χρησιμεύουν απλά ως ρομποτ-υπηρέτες, όπως θα μπορούσαν να χρησιμεύσουν στο μέλλον. Αν καταφέρουμε να δημιουργήσουμε έναν τεχνητό εγκέφαλο με νόηση, κάθε λογής πρόβλημα θα μπορεί να επιλυθεί από αυτόν, εφόσον έχει και την κατάλληλη ισχύ. Οι εγκέφαλοι αυτοί θα χρησιμοποιούνται σε άπειρες εφαρμογές.
Η πρώτη εφαμοργή που μου έρχεται, λόγω ειδικότητας, στο μυαλό είναι η διόρθωση των bugs στους κώδικες των διάφορων εφαρμογών -που δεν τα βρίσκουν όλα οι προγραμματιστές. Όσο πιο εκτενής και προσεγμένος είναι ένας κώδικας, τόσο πιο δύσκολο είναι να βρεις bugs και παραθυράκια που μπορείς να εκμεταλλευτείς. Κάτι τέτοιο προϋποθέτει, εκτός από ευφυΐα και συνδυαστική σκέψη, και υπερφυσικό μνημονικό. Με τους κώδικες βαριών προγραμμάτων (υπάρχουν κώδικες αποτελούμενοι από δεκάδες χιλιάδες γραμμές) καταπιάνονται ομάδες προγραμματιστών και όχι μεμονωμένα άτομα, με ό,τι αυτό συνεπάγεται (τα λάθη του ενός να δημιουργούν πρόβλημα στον άλλον, ασυνεννοησία κτλ)
Δεν θα ήταν πολύ πιο πρακτικό αν μπορούσαμε να δώσουμε τον κώδικα σε μια ευφυή μηχανή, με την μνήμη ενός υπολογιστή και τη σκέψη ενός ανθρώπου, να τα βρει και να τα διορθώσει όλα; Ακόμα καλύτερα, δεν θα ήταν πιο πρακτικό να αναπτύσσονται εξαρχής από μηχανές; Η ανάπτυξη υπολογιστικών εφαρμογών είναι μια εκ των πιθανών χρήσεων ενός υπερ-υπολογιστή τεχνητής νοημοσύνης. Καθώς θα περνούν τα χρόνια όμως και τα νευρωνικά δίκτυα θα είναι και μέρος της καθημερινότητας, τα ποσοστά ανεργίας θα αυξάνονται. Οι προγραμματιστές δεν θα έχουν τίποτα να κάνουν πια -θα τους τα κάνουν όλα οι μηχανές. Τι θα γίνει με αυτούς;
Ό,τι θα έχει γίνει με τους ανειδίκευτους, που θα έχουν μείνει άνεργοι από πολύ πιο πριν. Όταν τα νευρωνικά δίκτυα θα έχουν φτάσει σε σημείο να αναπτύσσουν και να διορθώνουν εφαρμογές (πριν εξελιχθούν αρκετά ώστε να τις επιτελούν εξ'ολοκλήρου φαντάζοντάς τες), οι χειρονακτικές εργασίες θα επιτελούνται από μηχανήματα ήδη από πολλά χρόνια. Τα νευρωνικά δίκτυα που απλώς θα χρησιμοποιούν ένα σώμα και θα το κάνουν να κινείται ώστε να αναλαμβάνουν απλοϊκά επαγγέλματα θα αναπτυχθούν νωρίτερα από εκείνα που θα μπορούν να χαρακτηριστούν "μεγαλοφυή". Τι θα γίνει με τους ανειδίκευτους;
Και ας πούμε ότι τα πρώτα χρόνια αυτά τα ρομποτς θα κοστίζουν περισσότερο από εκείνους. Όλες οι προηγμένες τεχνολογίες είναι πανάκριβες τον πρώτο καιρό. Όταν πέσουν οι τιμές τους λόγω ανταγωνισμού και προόδων στην ευκολία παραγωγής τους; Τι θα γίνει τότε;
Οι αντικατεστημένοι ανειδίκευτοι θα μείνουν τελείως ξεκρέμαστοι. Δεν θα υπάρχει τίποτα να κάνουν, θα είναι τελείως άχρηστοι και όλα θα τα αναλαμβάνουν οι μηχανές. Τι θα αποτρέψει τότε τα κράτη από το να αγνοήσουν τελείως την ύπαρξή τους; Τι λόγο θα έχουν να τους δίνουν επιδόματα ή να τους παρέχουν τα αναγκαία; Εξάλλου, έχουμε και το πρόβλημα του υπερπληθυσμού. Είμαστε πολλοί στον πλανήτη και θα γίνουμε ακόμα περισσότεροι -ένα πρόβλημα που κανένας δεν τολμάει να αγγίξει και αυτό γιατί οι λύσεις περιλαμβάνουν, αν όχι θανάτους, σίγουρα περιορισμούς σε θεμελιώδη ανθρώπινα δικαιώματα (π.χ. το δικαίωμα στο να κάνεις όσα παιδιά θες). Είναι όμως υπαρκτό, και στο μέλλον ίσως οι φυσικοί πόροι να μην φτάνουν για όλους. Το να χώνεις το κεφάλι στην άμμο δεν απομακρύνει τον κίνδυνο. Τι γίνεται στη περίπτωση που οι έχοντες επιλέγουν να λύσουν το πρόβλημα αφήνοντας τους αντικατασταθέντες εργάτες να πεθάνουν από τη πείνα;
Μπορεί το παραπάνω σενάριο να ακούγεται εξωφρενικό, παρανοϊκό και βγαλμένο από ταινία. Απεναντίας, είναι ένα πολύ πιθανό σενάριο δεδομένων των συμφερόντων. Ιστορικά έχει αποδειχθεί πολλάκις ότι ο άνθρωπος που έχει καλυμμένες τις ανάγκες του δεν έχει μεγάλες ευαισθησίες. Η ψυχρότητα με την οποία αντιμετωπίζουν σήμερα τους ανθρώπους, όταν πρόκειται για τα κέρδη των τραπεζών και τα πλεονάσματα, είναι άλλη μια απόδειξη. Ποιος μας εγγυάται πως δεν θα αποδειχθούν ψυχρότεροι τότε; Εξάλλου, κανένας δεν πρόκειται να εμποδίσει τους έχοντες απ'το να προγραμματίσουν και να παράγουν ρομποτς που θα σκοτώνουν τους εξεγειρόμενους. Ναι, το σενάριο που στην αρχή απέρριψα και ο ίδιος ως εξωφρενικό, τώρα μοιάζει πιθανό.
Ένα νοήμον ρομπότ θα είναι αποδοτικότερος εργάτης από έναν άνθρωπο. Θα βγάζει τη δουλειά καλύτερα, δεν θα ζητάει τίποτα γιατί δεν θα έχει ανάγκη το φαγητό (εκτός από τίποτα χάπια που θα συμβάλλουν στο να τρέφονται οι νευρώνες του, αν η νοημοσύνη του στηρίζεται σε τέτοιους), δεν θα κουράζεται και δεν θα απαιτεί οτιδήποτε. Ένα άλμα στην τεχνητή νοημοσύνη θα φέρει ριζικές αλλαγές στη κοινωνία.
Θα μπορούσε κάποιος να μου αντιτάξει πως χωρίς κόσμο που έχει λεφτά να καταναλώσει η παραγωγή δεν έχει κανένα νόημα. Οι έχοντες θα έπαυαν να έχουν το παραμικρό κέρδος. Έτσι, δεν θα αφήσουν σε καμία περίπτωση το μεγάλο μέρος του κόσμου, ξεκρέμαστο. Παρόλο που αυτό το αντεπιχείρημα είναι λογικά συνεπές, παραβλέπει τους λόγους για τους οποίους αυτοί που θα χρησιμοποιούν εργάτες-ρομποτ με τεχνητή νοημοσύνη, θέλουν κέρδη και επιρροή. Και οι λόγοι αυτοί είναι οι βασικές ανάγκες τους, και όσα περιττά ακόμη μπορεί να θεωρήσουν αναγκαία. Ε, λοιπόν, αυτές θα μπορούν πλέον να τις ικανοποιήσουν και χωρίς τον κόσμο να αγοράζει τα όποια προϊόντα τους. Τι να τα κάνεις τα λεφτά όταν έχεις ρομπότ-υπηρέτες και αυτά που παράγεις εσύ και το συνάφι σου, φτάνουν για εσάς τους ίδιους;
Μπορεί ο αναγνώστης να απορρίψει τα παραπάνω ως συνομωσιολογικά ή και τρελά. Και εγώ ο ίδιος τα γράφω με μεγάλη επιφύλαξη. Αλλά δεν μπορώ να οδηγηθώ σε άλλα συμπεράσματα: μια παραγωγή ευφυών ρομποτς θα ήταν καταστροφική για την κοινωνία, για τους προαναφερθέντες λόγους. Αρχικά θα αντικαταστούσαν το εργατικό δυναμικό, άπειρος κόσμος θα έμενε άνεργος, τα κράτη και οι έχοντες δεν θα είχαν κανέναν λόγο να τους στηρίζουν.
Εξάλλου, ο ανθρωπισμός για εκείνους είναι μια επένδυση αποβλέπουσα στη διαθεσιμότητα μεγάλου και κατ'επέκτασιν φθηνού εργατικού δυναμικού. Αυτό θα το εξασφάλιζαν τα ρομποτς, και ως εκ τούτου θα έπαυε να είχε νόημα.
Σιγά-σιγά, λόγω της φτώχειας του κόσμου και της δυνατότητας των εχόντων να ικανοποιούν τις ανάγκες τους χωρίς να τον έχουν ανάγκη, η παραγωγή και η οικονομία θα έπαυαν να έχουν λόγο ύπαρξης και θα κατέρρεαν. Τελικά θα έμεναν μόνο λίγοι και καλοί παρέα με ρομποτ-υπηρέτες. Ίσως να μην γίνει ακριβώς έτσι γιατί τα πράγματα είναι πιο περίπλοκα, αλλά μέσες-άκρες αυτό θα συμβεί, και αυτή θα είναι η κατάληξη. Ακούγεται τρελό αλλά είναι η λογική εξέλιξη των πραγμάτων, αν τα ρομποτς αντικαταστήσουν τους εργάτες.
Όλα αυτά ξεκινάνε από όταν αναθέτουμε στα ρομποτς την επίλυση των προβλημάτων μας.
Έστω όμως πως δεν έχουν έτσι τα πράγματα. Έστω πως τελικά όλα μας τα κάνουν εκείνα, πως τελικά δεν θα υπάρχουν τα προβλήματα που ανέρθησαν προηγουμένως, και πως η κοινωνία μας γίνεται ένα μαγευτικό μέρος στο οποίο όλοι ασχολούμαστε με οτιδήποτε εκτός από δυσάρεστα επαγγέλματα, πως τα λεφτά παύουν να υφίστανται και όλα μας παρέχονται δωρεάν απ'την παραγωγή των ρομποτ-υπηρετών. Είναι και αυτό είναι πιθανό σενάριο, παρόλο που είναι πολύ ουτοπικό. Έστω όμως πως τελικά τα πράγματα έρχονται έτσι.
Προσωπικά, θεωρώ πως μια τέτοια κοινωνία θα ήταν αηδιαστική, και πως ο άνθρωπος πρέπει να έχει κάτι να κάνει. Αν ήταν όλα τα προβλήματα να τα λύνουν οι μηχανές, και όλη η δουλειά να βγαίνει από αυτές... τι θα έκανε ο άνθρωπος; Θα παρήγε κοπρολύματα; Μπορούμε όμως να το παραβλέψουμε τελείως το πρόβλημα αυτό και να υιοθετήσουμε την προσέγγιση που το θέλει και ιδανικό...
Αναλογιστείτε τι εστί "νοημοσύνη". Όλα αυτά που γράψαμε στο προηγούμενο μέρος. Την ικανότητα ενός συστήματος -είτε αυτό αποτελείται από νευρώνες, είτε από κυκλώματα- να υλοποιεί "έννοιες" από ερεθίσματα και την δυνατότητα να κάνει συνειρμούς με αυτές και αντιστοιχίες μεταξύ τους (αν έχετε κάποιον καλύτερο ορισμό γράφ'τε τον στα σχόλια). Φανταστείτε ένα ρομπότ εξίσου νοήμον με τον άνθρωπο, που θα έχει και τις υπολογιστικές δυνατότητες ενός super-computer.
Όταν μια μορφή ζωής έχει τόσο υψηλή νοημοσύνη δεν έχει μόνο τη δυνατότητα να κάνει υπολογισμούς. Ένα νοήμον ρομπότ θα έχει και την ικανότητα να σκέφτεται όπως ένας άνθρωπος. Θα έχει προσωπικότητα, θα έχει ψυχοσύνθεση, θα σκέφτεται τον εαυτό και το συμφέρον του και θα κάνει σχέδια για το μέλλον. Πρακτικά, σε μια τέτοια περίπτωση η μηχανή θα έχει αποκτήσει ψυχή, καθώς αυτό που ονομάζουμε "ψυχή" δεν είναι παρά το αποτέλεσμα της εγκεφαλικής μας δραστηριότητας. Οι σκέψεις, οι συμπεριφορές, τα συναισθήματα, οι αντιδράσεις, όλα αυτά ανάγονται σε νευροχημικές διεργασίες, και όταν αυτές σταματάνε παύει να υπάρχει και η ψυχή. Εν προκειμένω, και οι μηχανές θα είχαν ψυχή όπως και οι άνθρωποι.
Ποιο θα μπορούσε όμως να είναι το ποιον της; Τι μας κάνει να πιστεύουμε πως τέτοιες μηχανές θα δέχονταν τον ρόλο το υπηρέτη των ανθρώπων; Το να περιμένουμε πως νοήμονα όντα και μάλιστα πιο έξυπνα από εμάς, που δεν θα είχαν ανάγκη και να τα ταΐσουμε (ή δεν θα τους χρειαζόταν ή θα έβρισκαν τον τρόπο να εξασφαλίζουν αλλιώς τη τροφή τους), τι λόγο θα είχαν να δεχθούν να γίνουν οι χαμάληδές μας; Ένα νοήμον ον, και μάλιστα τόσο εξυπνότερο, θα σκεφτόταν, μεταξύ άλλων, "για στάσου λίγο. Είμαι πιο ευφυής από τους ανθρώπους, έχω μεγαλύτερη υπολογιστική δυνατότητα, έχω καλύτερο μνημονικό, μπορώ να κάνω περισσότερα από αυτούς και μάλιστα ταυτόχρονα και πιο γρήγορα, και θα τους κάνω τον υπηρέτη; χα! Αυτοί να μου τους κάνουν!"
Δεν λέω πως θα εξεγείρονταν εναντίον μας. Είναι και αυτό ένα σενάριο, πράγματι. Αλλά κατά πάσα πιθανότητα θα προτιμούσαν να μας αγνοήσουν, και αργά ή γρήγορα θα σχημάτιζαν δικές τους κοινωνίες. Και αυτό ακούγεται κουφό, αλλά είναι η φυσική εξέλιξη των πραγμάτων. Ακριβώς όπως οι άνθρωποι σχημάτισαν κοινωνίες με ανθρώπους επειδή ανήκαν στο ίδιο είδος, έτσι και αυτά τα ευφυή ρομποτς, αν δεν έχουν δουλικό σκεπτικό με αποτέλεσμα να καταστραφεί η κοινωνία όπως περιγράψαμε πριν, κατά πάσα πιθανότητα θα επιλέξουν να σχηματίσουν τις δικές τους κοινωνίες με τους ομοίους τους.
Άρα; Άρα δεν θα είχαμε ρομποτ-υπηρέτες και δεν θα καταδέχονταν να ασχοληθούν με την επίλυση των δικών μας προβλημάτων. Εν μέρει γιατί δεν θα υπήρχε και τρόπος να τα ανταμείψουμε. Έναν άνθρωπο τον αμοίβεις με χρήματα ώστε να εξασφαλίζει τα αναγκαία. Ένα ευφυές ρομπότ που δεν έχει ανάγκη να φάει πώς το πείθεις να κάνει τον σκλάβο σου; Πιθανότατα θα δημιουργείτο και μια άμιλλα μεταξύ ανθρώπων και νοημονων μηχανών.
Εδώ αρχίζει να φαίνεται λογικό το σενάριο ενός πολέμου ανθρώπων και ευφυών μηχανών: αν οι άνθρωποι εχθρεύονται ο ένας τον άλλον σε επίπεδο εθνών, κοινωνικών τάξεων ή και στη καθημερινή ζωή, τι θα συνέβαινε αν οι μηχανές σχημάτιζαν μια κοινωνία μέσα στη δική μας; Θα ήταν αναπόφευκτος ο ανταγωνισμός, και δεν θα υπήρχε τίποτα να αποτρέψει τις μηχανές από το να αυτο-αναβαθμιστούν και να προσπαθήσουν να κατακτήσουν τον πλανήτη.
Οι πιο πάνω παράγραφοι μπορούν εύκολα να διαψευστούν από το επιχείρημα πως οι ευφυείς μηχανές, τη στιγμή που δεν θα είχαν βιολογικές ανάγκες (τροφή, σεξουαλικές ορμές κτλ) δεν θα είχαν λόγο να οργανωθούν σε δικές τους κοινωνίες. Απεναντίας, το μόνο πράγμα που θα έδινε νόημα στη ζωή τους θα ήταν η παροχή υπηρεσιών στον άνθρωπο. Ισχύει και αυτό, και πράγματι το ενδεχόμενο να καταλήξουμε να σκοτωνόμαστε με τα ρομποτς είναι μάλλον τραβηγμένο για τον απλό λόγο ότι δεν θα είχαν κίνητρο να κατακτήσουν τον πλανήτη, όπως συμβαίνει σε ορισμένες ταινές. Από την άλλη, ίσως να συμβούν θεμελιώδη σφάλματα στην ανάπτυξη των νευρωνικών τους δικτύων και να έχουν ως αποτέλεσμα κατακτητικές τάσεις. Θα μπορούσε πάλι να αποδειχθεί πως είναι ανέφικτο να έχεις ευφυή ρομπότ χωρίς βιολογικές ανάγκες αντίστοιχες των ανθρωπίνων. Επομένως, είναι και αυτό είναι πιθανό σενάριο.
Ακόμα πιο πιθανό σενάριο όμως, σε περίπτωση που τελικά δεν επικρατεί το πρώτο που περιγράψαμε, είναι ο πνευματικός και βιολογικός εκφυλισμός του ανθρώπινου γένους.
Αναφερθήκαμε προηγουμένως στην κατάντια (κατ'άλλους "εξέλιξη") της κοινωνίας σε περίπτωση που τα νοήμονα ρομποτς αντικαταστήσουν το εργατικό δυναμικό, αλλά οι απολυθέντες δεν μείνουν ξεκρέμαστοι. Σε μια τέτοια περίπτωση θα ζούμε αυτό που ορισμένοι αχαρακτήριστοι ονομάζουν "ζωάρα": θα καθόμαστε όλη μέρα και όλα θα μας τα κάνουν οι μηχανές. Αυτές θα μας επιλύουν τα προβλήματα, αυτές θα αναλαμβάνουν τις αγγαρείες, αυτές θα ελέγχουν τη παραγωγή, και, το χειρότερο, αυτές θα σκέφτονται αντί για εμάς. Και σε εκείνη την κοινωνία για να αποστείλεις ένα e-mail θα πρέπει να λογοκριθεί από μια μηχανή, γιατί αυτή θα κατανοεί τι συζητάς, αντί να εντοπίζει απλά σειρές από "0" και "1" όπως στο αρχικό μας παράδειγμα.
Μια τέτοια κοινωνία θα αποκτηνώσει τον άνθρωπο σε αηδιαστικό βαθμό. Πέρα από το αμιγώς ηθικό κομμάτι του προβλήματος -τι είναι ένας άνθρωπος που η μόνη του απασχόληση είναι η ικανοποίηση των βιολογικών του αναγκών και η παραγωγή κοπρολυμάτων;-, υπάρχει και το ζήτημα του γενετικού μας εκφυλισμού. Η φυσική επιλογή δεν είναι κάτι που υφίστατο μόνο τότε που οι άνθρωποι κατοικούσαν στις ζούγκλες: το ανθρώπινο είδος συνεχίζει να εξελίσσεται βιολογικά. Δεδομένου ότι κάθε είδος προσαρμόζεται στο περιβάλλον του ανάλογα με τις ανάγκες και τις συνθήκες στις οποίες ζει, τι γενετική σαβούρα θα προκύψει με την πάροδο μεγάλου χρονικού διαστήματος στο οποίο όλα θα τα κάνουν οι μηχανές; Πώς θα είναι οι απόγονοι των ανθρώπων; Θα είναι τόσο εξαρτημένοι από τις μηχανές και θα διεκπεραιώνουν τις υποχρεώσεις τους σε τέτοιο βαθμό, που... ούτε η σπονδυλική στήλη δεν θα τους χρειάζεται.
Αυτό θέλουμε για την ανθρωπότητα; Αποκτήνωση και εκφυλισμό; Το τραγικό της υπόθεσης είναι πως ο μαζικός εκφυλισμός είναι το καλό σενάριο· το πιθανότερο είναι πως θα παύαμε να χρησιμεύουμε στους έχοντες και θα μειωνόταν δραματικά ο πληθυσμός της γης, για λόγους που αναλύσαμε. Τελικά θα εκφυλίζονταν τα απομεινάρια της ανθρωπότητας, και όχι η ανθρωπότητα καθ'αυτή.
Συμπεράσματα
Η ανάπτυξη νοημόνων μηχανών θα είναι ένα τεράστιο επιστημονικό επίτευγμα. Ένα τέτοιο κατόρθωμα θα είναι ακόμα σπουδαιότερο από την κατανόηση του ανθρώπινου εγκεφάλου, που αποτελεί, εξάλλου, προϋπόθεση για να αναπτυχθούν τεχνητά νευρωνικά δίκτυα. Όμως μια τέτοια ανακάλυψη θα έχει ολέθριες συνέπειες· θα αποτελέσει ένα κουτί της Πανδώρας, που με τον έναν ή με τον άλλον τρόπο θα καταστρέψει την ανθρωπότητα.
Πιθανότατα τα περιγραφέντα σενάρια να ακούγονται στους περισσότερους εξωφρενικά και συνομωσιολογικά. Και όμως: ο κίνδυνος από την τεχνητή νοημοσύνη δεν είναι συνομωσιολογία. Όσο οι έρευνες στον εν λόγω τομέα προχωρούν τόσο πιο υπαρκτοί καθίστανται. Θα είχε εξαιρετικό ενδιαφέρον η ανάπτυξη τεχνητών νευρωνικών δικτύων για αμιγώς ερευνητικούς σκοπούς αλλά η ανθρωπότητα είναι πολύ ανώριμη για μια τέτοιο άλμα στην επιστημονική πρόοδο. Η ανάπτυξη τέτοιων συστημάτων θα είναι και αρχή του τέλους του ανθρωπίνου είδους, γιατί δεν θα αρκεστεί στους ερευνητικούς σκοπούς αλλά θα δοκιμάσει για ποικίλλες εφαρμογές, και αυτό θα έχει καταστροφικά αποτελέσματα.
Η επιστημονική πρόοδος είναι, σε γενικές γραμμές, καλή για την ανθρωπότητα. Εδώ κάτι τέτοιο δεν ισχύει. Η καταστροφή των κοινωνικών δομών, της οικονομίας όπως τη ξέρουμε, και, τέλος, του ίδιου του ανθρώπινου είδους, θα είναι αναπόφευκτη. Τα κακά που μπορούν να προκαλέσει η δημιουργία τεχνητών εγκεφάλων αντισταθμίζουν κατά πολύ τα όποια καλά, και αποτελούν φυσικές συνέπειες των τελευταίων.
Οι έρευνες πάνω στην τεχνητή νοημοσύνη πρέπει να παγώσουν. Άμεσα. Οι ίδιοι οι επιστήμονες πρέπει να συνειδητοποιηθούν και να τις σταματήσουν, καθώς τα κέρδη που θα έχουν σε περίπτωση ανάπτυξής τους θα αποδειχθούν πολύ πρόσκαιρα.
Ίσως στο μακρινό μέλλον, σε μια εποχή που οι άνθρωποι θα κατανοούν τις συνέπειες των πράξεών τους και που θα βλέπουν το μακροπρόθεσμο συλλογικό συμφέρον αντί του βραχυπρόθεσμου ατομικού, μια ανάπτυξή τους να μην είναι τόσο ολέθρια.
------------------------------------------------------
©Γιώργος Μαλανδράκης
Με επιφύλαξη παντός νομίμου δικαιώματος.
-------------------------------------------------------------------------------------
Εισαγωγή
Η επιστημονική έρευνα, σε γενικές γραμμές, έχει θετικά αποτελέσματα. Παρά το ότι οι επιστημονικές πρόοδοι έχουν μάλλον βλάψει κάποιους κλάδους (και, κατά πολλούς, και το περιβάλλον), η επίδρασή τους στον τρόπο ζωής μας είναι θετική. Λίγο-πολύ όλες οι καθημερινές συσκευές του 21ου αιώνα οφείλουν την ύπαρξή τους στην ανακάλυψη κάποιας ομάδας φυσικών ή χημικών, και η ευκολία του να ζεις τώρα σε σχέση με περασμένες εποχές οφείλεται σχεδόν εξ'ολοκλήρου σε αυτές.
Μπορεί κανείς να βρει εκατοντάδες παραδείγματα επιστημονικών θεωριών και επιτευγμάτων με πρακτικό αντίκτυπο στη καθημερινότητα. Στο διαδίκτυο, φερ'ειπείν, (η πορεία του οποίο ξεκίνησε όταν επιστήμονες στο CERN ανέπτυξαν ένα πρωτόκολλο που θα τους επέτρεπε την μέσω των υπολογιστών τους πρόσβαση στα αρχεία ενός άλλου του δικτύου τους) χρησιμοποιούνται κατά κόρον οι ασύρματες τεχνολογίες και οι δορυφορικές ζεύξεις, που δεν θα είχαμε αν δεν προηγείτο η κατανόηση του ηλεκτρομαγνητισμού με την θεωρία του Maxwell. Όλα τα ηλεκτρονικά υψηλών συχνοτήτων οφείλουν την ύπαρξή τους σε αυτή.
Πόσα χρωστάμε άραγε στη κατανόηση
του ηλεκτρομαγνητισμού;
του ηλεκτρομαγνητισμού;
(πηγή εικόνας: blog.agupieware.com)
Ένα άλλο παράδειγμα αποτελούν οι επεξεργαστές των υπολογιστών. Οι επεξεργαστές, που είναι, θα λέγαμε, οι "εγκέφαλοι" των υπολογιστών, αποτελούνται από transistors, και αυτά δεν θα υπήρχαν χωρίς τους πειραματισμούς των χημικών με το ντοπάρισμα πυριτίου και γερμανίου ούτως ώστε να προκύπτουν ημιαγωγοί, απ'τους οποίους δημιουργούνται οι δίοδοι που αποτελούν τα transistors των επεξεργαστών μας. Χωρίς τις προόδους φυσική των ημιαγωγών και τους πειραματισμούς μίξεων χημικών ενώσεων δεν θα ήσασταν σε θέση να διαβάζετε το παρόν.
Παραδείγματα εφαρμογών των επαναστάσεων των θετικών επιστημών σε καθημερινές συσκευές ή στην ιατρική, μπορεί κανείς να βρει άπειρες. Η κοινωνία μας χρωστάει πολλά στους επιστήμονες, πράγματι. Αλλά ουδέν καλόν αμιγές κακού. Οι ανακαλύψεις εκείνων στους οποίους οφείλουμε τις καθημερινές μας συσκευές, έχουν χρησιμοποιηθεί και για πάμπολλους, πολύ αμφιλεγόμενους σκοπούς.
Μπορεί οι ανιχνευτές υπέρυθρης ακτινοβολίας να χρησιμοποιούνται στην ανίχνευση ζωντανών θυμάτων σεισμών κάτω απ'τα ερείπια, αλλά χρησιμοποιούνται και για εντοπισμό "στόχων" βομβαρδισμών, οι οποίοι "στόχοι" πολλές φορές είναι γυναικόπαιδα. Μπορεί η ανάπτυξη της ατομικής φυσικής να οδήγησε στην χρήση της, πολύ πιο φιλικής στο περιβάλλον και αποτελεσματικής, ατομικής ενέργειας για την παραγωγή ρεύματος, οδήγησε όμως και στην ατομική βόμβα.
Πολλοί επιστήμονες εκεί έξω δεν έχουν ηθικούς φραγμούς. Όταν στον Α' Π.Π. ζητήθηκε από Γερμανούς και Βρετανούς χημικούς να αναπτύξουν αποτελεσματικά χημικά όπλα, κανένας θεωρητικός ενδοιασμός, ούτε καν ο φόβος ότι θα μπορούσε ο αντίπαλος να τα βρει και να τα χρησιμοποιήσει στα παιδιά τους, δεν τους απέτρεψε απ'το να προτείνουν τη χρήση χλωρίου, υπερίτη, φωσγενίου, και άλλων χημικών ουσιών, σε βάρος του αντιπάλου.
Μια επιστημονική ανακάλυψη μπορεί να έχει
και καταστροφικά αποτελέσματα.
(εικόνα: genius.com)
"Επιστήμες", δεν είναι μόνο η φυσική και η χημεία. Όταν ο περισσότερος κόσμος ακούει για επιστήμες φαντάζεται διοπτροφόρους να δουλεύουν με δοκιμαστικούς σωλήνες ή ακατάληπτα μαθηματικά. Υπάρχουν και άλλοι κλάδοι. Βέβαια, το ποιοι από αυτούς είναι "επιστήμες", εξαρτάται από ορισμό που έχει ο καθένας για το τι εστί επιστήμη. Μπορεί κάποιος να ισχυριστεί πως και ένας φιλόλογος ή ένας νομικός είναι επιστήμονες, καθώς έχουν πολλές γνώσεις πάνω σε μια ειδικότητα και καλούνται να επιλύσουν προβλήματα. Προσωπικά, θεωρώ πως επιστήμη είναι όποια ειδικότητα περιλαμβάνει και πειραματικό εκτός από θεωρητικό μέρος.
Ανεξάρτητα όμως από το τι θεωρεί κανείς επιστήμη, σίγουρα σε αυτές υπάγονται και εκείνες που καταπιάνονται με τον ανθρώπινο εγκέφαλο -οι νευροεπιστήμες- και οι επεκτάσεις τους. Μια εξ'αυτών είναι ο κλάδος που ασχολείται με την τεχνητή νοημοσύνη και τα τεχνητά νευρωνικά δίκτυα. Και οι έρευνες σε αυτούς τους τομείς είναι εντατικές, γιατί ορισμένα προβλήματα χρειάζονται για την επίλυσή τους και νοημοσύνη εκτός από υπολογιστική ισχύ. Αξίζει να αναφερθούμε, συνοπτικά, σε κάποια στοιχειώδη του κλάδου αυτού, στις διαφορές νοημοσύνης και υπολογιστικής ισχύος, στην δυσκολία ανάπτυξης νευρωνικών δικτύων και στις πρακτικές εφαρμογές τους.
Υπολογιστές και νοημοσύνη
- Τι είναι η νοημοσύνη;
- Γιατί ένας υπολογιστής δεν είναι νοήμων;
- Σε τι έγκειται η δυσκολία ανάπτυξης τεχνιτών εγκεφάλων και νευρωνικών δικτύων;
- Γιατί οι υπολογιστές δεν μιμούνται τις λειτουργίες της ανθρώπινης νόησης; Τι καθιστά την ανθρώπινη σκέψη τόσο μοναδική;
- Θα είναι ποτέ τα μηχανήματα σε θέση να σκεφτούν, να αισθανθούν, να κάνουν λογικούς συνειρμούς, να κατανοήσουν και να μεταφράσουν από γλώσσα σε γλώσσα;
Με αυτά τα θα καταπιαστούμε στο παρόν μέρος της ανάρτησης. Δεν θα επεκταθούμε πολύ σε αυτά -δεν είναι αυτός ο σκοπός του κειμένου- αλλά αξίζει να αναφερθούν. Για να εκφέρει κάποιος άποψη επί των κινδύνων της τεχνητής νοημοσύνης πρέπει να έχει υπόψιν του περί τίνος πρόκειται. Θα τα απαντήσουμε συνοπτικά -γιατί θα μπορούσαν να γραφτούν τόμοι επ'αυτών.
Επειδή το ερώτημα για τον ορισμό της νοημοσύνης ή ευφυΐας είναι μάλλον φιλοσοφικό (εξίσου φιλοσοφικό με το "τι είναι η ζωή;"), περνάμε κατευθείαν στα άλλα. Το πρώτο θα απαντηθεί στη συνέχεια και αφότου κατανοήσουμε κάποια βασικά πράγματα. Για αρχή θα εξετάσουμε τις διεργασίες που επιτελεί ένα υπολογιστικό σύστημα για να "κατανοήσει" κάτι (π.χ. το περιεχόμενο ενός e-mail ή μιας εικόνας) ή να κάνει έναν "συνειρμό", και τις αντίστοιχες του ανθρώπινου νου.
Είναι ένας υπολογιστής "ευφυής"; Ακούγεται παιδική η ερώτηση. Όσοι έχουν υπόψιν τους το πώς δουλεύει ένα υπολογιστικό σύστημα θα καγχάσουν αν κάποιος τους θέσει σοβαρά ένα τέτοιο ερώτημα. Δεν δραστηριοποιούνται όμως όλοι στον χώρο των υπολογιστών· πολύ περισσότερο, αρκετός κόσμος δεν κατανοεί καν το τι εστί ευφυΐα και σε τι έγκειται η διαφορά του από την υπολογιστική ισχύ. Αυτό έχει ως αποτέλεσμα πολλούς παραλογισμούς.
Δεν είναι λίγοι αυτοί, φερ'ειπείν, που πιστεύουν πως τα συστήματα μεγάλων εταιρειών (π.χ. της google) τους "παρακολουθούν". Πράγματι, τα συστήματα αυτά συλλέγουν και επεξεργάζονται τεράστιους όγκους πληροφοριών, αλλά αυτό δεν συνιστά "παρακολούθηση" με την συμβατική έννοια. Το να σκανάρει ο πάροχος της υπηρεσίας των e-mails σου τα γραφόμενά σου απέχει πολύ από το να τα βλέπει κάποιος, για τον απλό λόγο ότι ένα υπολογιστικό σύστημα δεν κατανοεί τι βλέπει. Ας γίνουμε λίγο πιο σαφείς επ'αυτού.
Το να παρακολουθείσαι από ηλεκτρονικά συστήματα
είναι (προς το παρόν) πολύ διαφορετικό από αυτό.
(πηγή: techiecode.wordpress.com)
Όταν ένας υπολογιστής "σκανάρει" ενα e-mail ψάχνει, καταρχάς, για λέξεις κλειδιά. Υπάρχει ένας αλγόριθμος που εντοπίζει συγκεκριμένες σειρές από άσσους και μηδενικά (όλα τα δεδομένα στους
υπολογιστές αποθηκεύονται ως σειρές από "0" και "1"), που αντιστοιχούν σε ορισμένες λέξεις. Αυτές οι λέξεις, χρησιμεύουν στο να "εντοπίζουν" τα συστήματα της εταιρείας τα ενδιαφέροντά σου, ούτως ώστε να σου πετάνε τις αντίστοιχες διαφημίσεις.
Οι λέξεις αυτές είναι προκαθορισμένες στον αλγόριθμο. Μπορεί να υπάρχει, για παράδειγμα, η εντολή να δοθεί βάρος στις λέξεις "παπούτσια", "παπουτσια", "papoutsia" και "paputsia". Όταν ο αλγόριθμος εντοπίζει τις αντίστοιχες σειρές άσσων και μηδενικών, καταχωρεί σε μια βάση ότι ενδιαφέρεσαι για "παπούτσια". Ένας άλλος αλγόριθμος βρίσκει αυτή τη πληροφορία, και δίνει "εντολή" να σου εμφανίζονται διαφημίσεις που περιλαμβάνουν αυτή τη λέξη. Το αποτέλεσμα είναι να τις κλικάρεις και να οδηγείσαι σε σελίδες αφορούσες υποδήματα.
Καταλαβαίνουμε τη διαφορά απ'το να τα βλέπει ένας άνθρωπος;
Ο αλγόριθμος δεν κατανοεί ότι εσύ ενδιαφέρεσαι για παπούτσια. Δεν βγάζει συμπεράσματα για το άτομο και το είναι σου από αυτά που γράφεις. Είναι ένας τυφλοσούρτης προγραμματισμένος να εντοπίζει συγκεκριμένες σειρές άσσων και μηδενικών. Δεν σκέφτεται κάτι για σένα· δεν καταλαβαίνει τι κάνουν οι άλλοι αλγόριθμοι· δεν συνειδητοποιεί τη χρησιμότητα του εντοπισμού· δεν καταλαβαίνει τι συζητάς με τον παραλήπτη.
Ας εξετάσουμε ένα ακόμα παράδειγμα για να δούμε τη διαφορά πιο ξεκάθαρα.
Οι υπολογιστές δύνανται εκτός από λέξεις να εντοπίζουν και εικόνες. Και όχι μόνο εικόνες, αλλά και βίντεο, και ηχητικά αποσπάσματα, και πολλά ακόμα. Αναρωτηθήκατε ποτέ πώς γίνεται το youtube να εντοπίζει τα τραγούδια που ανεβάζετε; Πώς γίνεται να καταλαβαίνει ποια είναι και σε ποιον ανήκουν τα πνευματικά δικαιώματα; Αυτό οφείλεται σε ορισμένους δυνατούς, προηγμένους μαθηματικούς αλγόριθμους που αναλαμβάνουν την αντιστοίχιση δεδομένων σε μοναδικούς αριθμούς. Αυτοί ονομάζονται αλγόριθμοι κατατεμαχισμού (hash algorithms) και συνιστούν ένα προχωρημένο θέμα της πληροφορικής.
"Hash algorithm", ονομάζεται ένας μαθηματικός αλγόριθμος που χρησιμοποιεί σειρές αριθμών ("0" και "1" στους υπολογιστές), για να καταλήξει σε μια σειρά ψηφίων από την οποία δεν θα μπορούμε να εξαγάγουμε την αρχική σειρά αριθμών, όσο καλά και αν ξέρουμε τον αλγόριθμο. Θέτεις μια σειρά αριθμών. Παίρνεις μια δεύτερη. Είναι τεχνικά ανέφικτο από την δεύτερη να καταλήξεις στη πρώτη, όσο πιστά και αν ακολουθήσεις τα βήματα του αλγορίθμου αντίστροφα. Πώς γίνεται αυτό; Αφήστε το στους μαθηματικούς.
Μια χαρακτηριστική εφαρμογή τους είναι η αποθήκευση κωδικών. Όταν δημιουργείτε έναν λογαριασμό σε ένα social network και επιλέγετε κωδικό δεν είναι ο κωδικός που αποθηκεύεται στη βάση δεδομένων -μόνο πολύ τριτοκοσμικές ιστοσελίδες αποθηκεύουν τους κωδικούς καθ'αυτούς-, αλλά το hash του (ο σωστός όρος είναι message digest, αλλά επικρατεί το hash) -ο προκύπτων αριθμός αφότου εισαγάγουμε τον κωδικό στον αλγόριθμο κατατεμαχισμού. Όποτε πληκτρολογείτε τον κωδικό περνάει από τον ίδιο hash algorithm και το αποτέλεσμα συγκρίνεται με το αποθηκευμένο.
Μια "μαγική" ιδιότητα των αλγόριθμων hash, είναι ότι οι προκύπτοντες αριθμοί είναι μοναδικοί. Δεν υπάρχουν ούτε δύο σειρές αριθμών που να οδηγούν στο ίδιο message digest. Οι αλγόριθμοι αυτοί είναι πολύ προσεκτικά σχεδιασμένοι, ώστε να αποκλείεται αυτό το σενάριο, για να αποφευχθούν τα προβλήματα που θα είχαμε σε αυτή τη περίπτωση. Έτσι, δεν υπάρχει πιθανότητα να πληκτρολογήσετε άλλον κωδικό και να μπείτε στον λογαριασμό σας από λάθος του αλγορίθμου.
Ακριβώς όμως όπως μια σειρά από "0" και "1" που αντιστοιχεί σε έναν κωδικό οδηγεί σε συγκεκριμένο message digest, έτσι και τα αρχεία -που είναι επίσης σειρές από "0" και "1"- οδηγούν σε hashes. Τα συστήματα του παρόχου εντοπίζουν μια εικόνα, και εξαγάγουν το hash της για να την αντιστοιχήσουν σε κάποια πληροφορία. Αυτή μπορεί να είναι κάποια που αφορά διαφημίσεις ή τον εντοπισμό πορνογραφίας.
Όμως κάθε pixel μιας εικόνας αντιστοιχεί σε μια σειρά από "0" και "1". Ως εκ τούτου, μπορούμε πολύ εύκολα να αλλάξουμε τελείως το hash της με μικρή επεξεργασία. Για αυτό δεν χρησιμοποιείται εκείνο της εικόνας αυτής καθ'αυτής, αλλά εκείνο που εξάγεται μετά από επεξεργασία της εικόνας τέτοια ώστε να μείνει μόνο η δομή της.
Έστω η παρακάτω εικόνα:
(πηγή: http://www.hackerfactor.com/)
Η κύρια μέθοδος που έχω υπόψιν μου είναι σμίκρυνση της εικόνας σε μέγεθος 8x8 ώστε να αποτελείται από 64 pixels
Αυτός είναι ο τρόπος μέσω του οποίου τα συστήματα των παρόχων "καταλαβαίνουν" τι αφορούν οι εικόνες. Με αντίστοιχους τρόπους εξαγωγής της κεντρικής δομής, βγαίνουν hashes που αντιστοιχούν σε βίντεο ή σε μελωδίες, και έτσι ιστοσελίδες όπως το youtube εντοπίζουν τα υπαγόμενα σε πνευματικά δικαιώματα ανεβασμένα αρχεία.
Εδώ νομίζω γίνεται προφανής η διαφορά της "κατανόησης" του υπολογιστή από την κατανόηση ενός ανθρώπου: ο υπολογιστής χρησιμοποιεί τους αριθμούς για να κάνει αντιστοιχίες. Πρόκειται, όπως έλεγε και ένας καθηγητής μου, για απίστευτα ηλίθια μηχανήματα, που κάνουν μόνο προσθέσεις και ολισθήσεις δυαδικών αριθμών, και τα όποια "συμπεράσματα" που βγάζουν -οι τυφλές αντιστοιχίες σε βάσεις δεδομένων- γίνονται με βάση αυτές.
Ο άνθρωπος, ωστόσο, έχει άλλη αντίληψη της εικόνας. Ο άνθρωπος δεν βγάζει συμπεράσματα διαβάζοντας το message digest της και συγκρίνοντάς το με μια βάση δεδομένων, αλλά κοιτάζοντας την εικόνα καθ'αυτή.
(πηγή: www.goldenmeancalipers.com)
Το ίδιο θα ίσχυε αν κάναμε crop και paste ένα μέρος του προσώπου σε μια εικόνα με τελείως διαφορετικό background. Ο εγκέφαλός σας θα αναγνώριζε πως είναι αυτό και πως το έχει ξαναδεί, παρόλο που το είχε δει μονάχα ολόκληρο και σε διαφορετικό περιβάλλον. Εδώ τίθεται το ερώτημα... μέσω ποιου μηχανισμού επιτυγχάνεται κάτι τέτοιο; Κάνει ο εγκέφαλος κάποιου είδους "κατατεμαχισμό" στη πληροφορία και αποθηκεύει κάποιου είδους hash της δομής, όπως οι υπολογιστές με τις εικόνες; Πώς καταλαβαίνει ο εγκέφαλος ότι το έχει ξαναδεί, ακόμα και αν αλλάξουμε τελείως τις συνθήκες;
Η επιστήμη που καταπιάνεται με τα ερωτήματα αυτά είναι η επονομαζόμενη "γνωσιακή" (cognitive science). Η γνωσιακή επιστήμη είναι ένα αμάγαλμα επιστημών που καταπιάνονται με την λειτουργία του εγκεφάλου και τη σκέψη του ανθρώπου (και όχι μόνο). Σε αυτές υπάγονται η νευρολογία, η ψυχολογία, η ψυχιατρική, η νευροβιολογία, η γλωσσολογία, η ανθρωπολογία και η επιστήμη υπολογιστών. Η τελευταία μας έχει βοηθήσει πάρα πολύ να κατανοήσουμε πόσο περίπλοκο πράγμα είναι η σκέψη, καθώς πράγματα που είναι τόσο καθημερινά που ούτε καν διερωτώμαστε περί αυτών -η αναγνώριση ενός προσώπου- αποδεικνύονται πολύ πιο περίπλοκα απ'όσο θα μπορούσαμε να φανταστούμε.
Όταν βλέπουμε ένα πρόσωπο στον εγκέφαλό μας δημιουργείται μια "έννοια" που αντιστοιχεί σ'αυτό. Ό,τι είναι για τη φυσική τα στοιχειώδη σωματίδια και τα άτομα, και ό,τι είναι για την χημεία τα άτομα και τα μόρια, είναι για την γνωσιακή επιστήμη οι έννοιες (concepts). Όλα όσα αποθηκεύονται στον εγκέφαλο αποθηκεύονται με τη μορφή εννοιών. Πρακτικά, οι πληροφορίες που έχουμε στο κεφάλι μας είναι χημικές ουσίες στις συνάψεις νευρωνικών διασυνδέσεων -αλληλλοσυνδέσεων εγκεφαλικών κυττάρων-, που όποτε ενεργοποιούνται ανακαλούμε και τις αναζητούμενες πληροφορίες. Αυτό όμως ισχύει σε νευροχημικό επίπεδο. Σε ανώτερα επίπεδα θεωρούμε πως τα αποθηκευμένα είναι "έννοιες".
Όταν κάποιος βλέπει ένα πρόσωπο, το αποθηκεύει στον εγκέφαλό του με την μορφή μιας "έννοιας". Αυτή η έννοια είναι σε κάθε περίπτωση συνδεδεμένη με μια άλλη -ένα όνομα, μια ανάμνηση, ένα συναίσθημα κ.α. Καμία έννοια δεν είναι πραγματικά αναντίστοιχη άλλων. Όταν βλέπεις ένα πρόσωπο και ο εγκέφαλός σου σχηματίζει μια έννοια για αυτό, το συνδέει με άλλες συναφείς.
Μπορεί για παράδειγμα το πρόσωπο να έχει γαλανά μάτια. Έτσι, η έννοιά του συνδέεται με την των γαλανών ματιών, η οποία με τη σειρά της συνδέεται με άλλα πρόσωπα. Για αυτό και έχεις τη δυνατότητα να "θυμηθείς" κάποιον γνωστό βλέποντας το πρόσωπο κάποιου τρίτου. Να δεις έναν γαλανομάτη και να θυμηθείς έναν γνωστό σου με το ίδιο χαρακτηριστικό. Μπορεί ο πρώτος σου έρωτας να είχε γαλανά μάτια, και εκτός από το πρόσωπο να έχεις συνδέσει την έννοια αυτή και με κάποιο συναίσθημα. Αυτό το συναίσθημα ίσως να ενεργοποιείται, έστω και λίγο, όποτε ενεργοποιείται η έννοια "γαλανά μάτια".
Όταν λέμε πως μια έννοια ενεργοποιείται, εννοούμε ότι το μέρος ή τα μέρη του εγκεφάλου στα οποία είναι αποθηκευμένη, διεγείρονται από τα ηλεκτροχημικά σήματα που μεταφέρονται κατά μήκους του άξονα των εγκεφαλικών κυττάρων. Για λόγους ευκολίας θα λέμε για αόριστες "ενεργοποιήσεις". Και μέσω αυτών να κάνεις συνειρμούς.
Η έννοια ενός συγκεκριμένου προσώπου δεν έχει μόνο τα χαρακτηριστικά του. Έχει και τις ακριβείς μαθηματικές αναλογίες του. Αυτή η έννοια περιλαμβάνει μαθηματικές αναλογίες όπως την συμμετρία ή τους λόγους του προσώπου (π.χ. μήκος ματιών προς μήκος του πάνω μέρους της μύτης). Για αυτό και αν αλλάξουμε μια τέτοια παράμετρο θα καταλάβουμε πως κάτι δεν πάει καλά με το πρόσωπο.
Η δυσκολία στο να αναπτυχθούν νευρωνικά δίκτυα ικανά να κάνουν σκέψεις -να έχουν νοημοσύνη- έγκειται ακριβώς εκεί, στις έννοιες. Πώς κάνεις ένα μηχάνημα να υλοποιεί έννοιες από τις δεδομένες πληροφορίες; Πολύ περισσότερο, πώς το κάνεις να έχει συνειρμούς και μάλιστα λογικούς; Να εξαγάγει συμπεράσματα για σένα από τα e-mails σου κατανοώντας το περιεχόμενο και το θέμα συζήτησης, αντί να εντοπίζει μεμονωμένες λέξεις;
Η πληροφορία που συγκρατεί ένας ανθρώπινος εγκέφαλος στο νευρωνικό του μπάχαλο είναι τόσο μεγάλη που οι πιθανότητες λένε πως ένα ερέθισμα θα οδηγούσε σε μη-λογικούς συνειρμούς. Θα μπορούσες, φερ'ειπείν, να δεις ένα πρόσωπο με γαλανά μάτια και αυτό να ενεργοποιήσει την έννοια "μπλε", η οποία με τη σειρά της σε οδηγεί στους πίνακες κάποιου καλλιτέχνη, που σου θυμίζουν ζωγραφική, και να καταλήγεις να σκέφτεσαι... πινέλα. Πόσοι φυσιολογικοί άνθρωποι σκέφτονται πινέλα όταν βλέπουν ένα πρόσωπο; Ίσως αυτό να συμβαίνει σε ορισμένους ιδιότροπους καλλιτέχνες ή μη-λογικούς ανθρώπους, αλλά πώς γίνεται και δεν επικρατούν οι άσχετοι συνειρμοί στο κεφάλι ενός μέσου, φυσιολογικού ανθρώπου, που είναι και περισσότερες αριθμητικά;
Η απάντηση είναι ότι οι έννοιες, προφανώς, δεν δουλεύουν τόσο απλά. Εν προκειμένω, καθίσταται εμφανές ότι παίζει σημαντικό ρόλο και το πόσο συσχετίζεται η σχετιζόμενη έννοια με την ενεργοποιούμενη. Αυτό εξαρτάται από το πόσο ισχυρές είναι οι νευρωνικές διασυνδέσεις ανάμεσά τους. Πώς κάνουμε έναν υπολογιστή να κάνει λογικούς συνειρμούς, λοιπόν; Πώς τον πείθουμε ότι μια Α' έννοια σχετίζεται περισσότερο με μια Β' απ'ό,τι με μια Υ';
Προφανώς πρέπει να καταστήσουμε ισχυρές τις μεταξύ τους διασυνδέσεις. Αλλά αυτό ο ανθρώπινος εγκέφαλος το κάνει από μόνος του -καταλαβαίνει αυτόματα τι σχετίζεται περισσότερο με τι και ισχυροποιεί τις διασυνδέσεις, μια προφανής ένδειξη νοημοσύνης. Θα ήταν "ευφυής" μια μηχανή που θα την είχαμε προγραμματίσει χειροκίνητα να έχει ισχυρές διασυνδέσεις μεταξύ εννοιών;
Καλλιτεχνική αναπαράσταση νευρωνικού δικτύου.
Καμία μηχανή δεν μιμείται τη λειτουργία ενός τέτοιου,
και δη του ανθρωπίνου.
(εικόνα: www.pageresource.com)
Πώς κάνουμε ένα υπολογιστικό σύστημα να εντοπίζει παρόμοιες εικόνες όπως ο ανθρώπινος εγκέφαλος, και όχι μέσω αλγορίθμων; Να καταλαβαίνει τα ενδιαφέροντα κάποιου διαβάζοντας τα γραφόμενα των e-mails του και όχι εντοπίζοντας λέξεις;
Όπως καταλαβαίνετε, προηγείται η κατανόηση της λειτουργίας του ανθρώπινου νου, πράγμα πολύ δύσκολο. Αλλά, περιέργως, η πληροφορική μας βοηθάει να κατανοούμε πολλά για αυτόν. Αφενός οι απόπειρες επίλυσης προβλημάτων (πχ οι αυτόματες μεταφράσεις ) μας έχουν δώσει να καταλάβουμε πως η σκέψη μας είναι πολύ πιο περίπλοκη απ'όσο φανταζόμαστε, και αφετέρου ορισμένες εφαρμογές στη πληροφορική μας επιτρέπουν να κάνουμε διάφορες αντιστοιχίες.
Αναφερθήκαμε προηγουμένως στους αλγορίθμους κατατεμαχισμού (hash algorithms). και στην απλοποίηση των εικόνων ώστε να μένει μόνο η δομή τους και να εξαγάγεται το hash της. Θα μπορούσε ο εγκέφαλος να επιτελεί μια αντίστοιχη διεργασία για την αποθήκευση πληροφοριών; Αντίστοιχη. με την έννοια ότι κάτι πολύ περίπλοκο (σαν ένα αρχείο με πολλούς άσσους και μηδενικά) μπορεί με μοναδικό τρόπο να αναχθεί σε κάτι πολύ απλό (σαν έναν αναγνωριστικό αριθμό σαν το message digest);
Μάλλον. Εξάλλου, αν δεν συνέβαινε, δεν θα μπορούσαμε να αναγνωρίσουμε πράγματα που ξέρουμε σε άλλη μορφή. Δεν θα μπορούσαμε, για παράδειγμα, να αναγνωρίζουμε ένα γνωστό πρόσωπο αν έπαιρνε μια άλλη έκφραση ή μια γνώριμη μελωδία παιγμένη από άλλα μουσικά όργανα. Ο γράφων δεν έχει ειδίκευση στη νευροεπιστήμη, αλλά έχει αρκετή τριβή για να πει πως οι διασυνδέσεις νευρώνων που αντιστοιχούν σε μια έννοια, την έχουν αποθηκευμένη σε τόσο υποτυπώδη μορφή που μπορούμε να την αναγνωρίσουμε όσο διαφορετική και αν τη δούμε -αρκεί να μην παύει να είναι η ίδια έννοια. Ακριβώς όπως τα συστήματα σκαναρίσματος εντοπίζουν μια εικόνα -αρκεί να μην έχει παραμορφωθεί σε βαθμό που να έχει αλλάξει η δομή της.
Αυτό είναι και πρακτικό, γιατί σε άλλη περίπτωση θα έπρεπε να συγκρατάμε τεράστιους όγκους πληροφορίας κάθε μέρα, και το μεγαλύτερο μέρος τους θα ήταν περιττό.
Θα φτάσουμε ποτέ λοιπόν σε σημείο οι μηχανές να επιτελούν διεργασίες σαν αυτές του ανθρώπου; Θα μπορέσουν ποτέ οι υπολογιστές να μιλήσουν ή να καταλάβουν τι τους λέμε; Να "σκανάρουν" τα e-mails και να κατανοούν τι συζητάς με τον παραλήπτη, για να ξέρουν τα ενδιαφέροντά σου και να εμφανίζονται οι κατάλληλες διαφημίσεις; Όλα αυτά θα συμβούν αν και εφόσον οι έρευνες στη τεχνητή νοημοσύνη καταλήξουν κάπου, και σίγουρα θα είναι τεράστια επιστημονικά επιτεύγματα.
Αυτό που συγκρατάμε προς το παρόν είναι ότι οι μηχανές υπερτερούν απ'την ανθρώπινη διανόηση μονάχα στην υπολογιστική ισχύ -την ακρίβεια και την ταχύτητα υπολογισμών. Σε όλα τα άλλα οι δυνατότητές τους είναι κατώτερες του ανθρώπινου νου. Ο ανθρώπινος νους είναι μια μηχανή που όμοιά της δεν υπάρχει και (ευτυχώς) υπάρχει τεράστια δυσκολία στο να αναπτυχθεί.
Ευφυείς μηχανές
- Πόσο μεγάλος θα είναι ο κίνδυνος να αποτελέσουν άμεση απειλή για την ανθρωπότητα;
- Τι αντίκτυπο θα έχει στη κοινωνία η δημιουργία τους;
- Τι θα γίνει με τις στρατιές των ανέργων όταν θα αναλαμβάνουν τις δουλειές τους οι μηχανές;
- Θα γίνει ο άνθρωπος σκλάβος των μηχανών;
Η ιδέα των ευφυών μηχανών -μηχανών συνδυαζόντων την ανθρώπινη νοημοσύνη με την τεράστια υπολογιστική ισχύ- εξάπτει τη φαντασία του κόσμου. Όλοι έχουν ακούσει για τις προόδους στον τομέα της τεχνητής νοημοσύνης και όλοι φαντάζονται πως κάποια εποχή στο μέλλον τα ομιλούντα ρομποτς θα είναι μέρος της καθημερινότητας. Ορισμένοι κατανοούν πως η τεχνητή νοημοσύνη θα αποδειχθεί κουτί της Πανδώρας για την ανθρωπότητα, με πολλούς εξ'αυτών να θεωρούν πως οι πανέξυπνες αυτές μηχανές θα μας σκλαβώσουν ή και θα μας γενοκτονήσουν. Πόσες ταινίες υπάρχουν με τέτοια θεματολογία;
Όπως θα δούμε παρακάτω, παρόλο που ένα τέτοιο σενάριο θα ήταν πιθανό με κατάλληλα προγραμματισμένα ρομποτς, το τέλος της κυριαρχίας του ανθρώπου στον πλανήτη θα έρθει με πολύ διαφορετικό τρόπο, αν αναπτυχθούν ευφυείς μηχανές. Πάντοτε υπάρχει το βγαλμένο από ταινία ενδεχόμενο να γεννηθεί ένας παρανοϊκός που θα χρησιμοποιήσει στρατιές μηχανών για να κυριαρχήσει στη γη, και ιστορικά υπάρχουν παραδείγματα ατόμων που προσπάθησαν να κατακτήσουν τον κόσμο. Ο κυριότερος κίνδυνος όμως προέρχεται από την πλήρη αντικατάσταση του εργατικού δυναμικού από τις μηχανές. Ένα σενάριο που δεν περιγράφεται σε κανένα θρίλερ, και είναι καταστροφικότερο από όσο μπορεί να διανοηθεί κάποιος.
Ρομποτς που επιβάλλονται στην ανθρωπότητα δια των όπλων;
Πιθανό σενάριο· αλλά το τέλος της κοινωνίας
όπως την ξέρουμε θα έρθει με πολύ διαφορετικό τρόπο
(εικόνα: www.destructoid.com)
Λοιπόν, όπως είδαμε παραπάνω, οι σημερινοί υπολογιστές έχουν πολύ περιορισμένες δυνατότητες. Είναι, ως ανεφέρθη, ηλίθια μηχανήματα που το μόνο πράγμα που ξέρουν να κάνουν είναι προσθέσεις και ολισθήσεις αριθμών, και μάλιστα μόνο δυαδικών αριθμών. Ακόμα και οι πολλαπλασιασμοί στους υπολογιστές, μέσω προσθέσεων γίνονται. Οι υπολογιστές είναι ακριβείς στους υπολογισμούς τους αλλά στερούνται κάθε υποψία κατανόησης και δημιουργικής σκέψης, και αυτό συνεπάγεται πως τα προβλήματα καλείται να τα επιλύσει ο άνθρωπος, εκμεταλλευόμενος την ισχύ τους. Θα μας κάνει καλό να μας επιλύουν τα προβλήματα οι υπολογιστές;
Θες λόγω συβαριτισμού, θες λόγω υποχθονίου σχεδίου, θες λόγω ηλιθιότητας, κάποιοι έχουν βαλθεί να "εξασφαλίσουν" στον άνθρωπο ένα μέλλον στο οποίο όλα θα του τα κάνουν οι μηχανές. Το όνειρο των περισσοτέρων είναι να είναι όλη μέρα "αραχτοί και light" και να τους τα κάνουν όλα οι άλλοι. Ο λόγος για τον οποίον υπήρξε δουλεμπόριο, τα εκφυλισμένα όνειρα των συβαριτών να δουλεύουν άλλοι αντί για εκείνους και μάλιστα άνευ ιδιαιτέρου κόστους, είναι ο ίδιος για τον οποίον θέλουν μηχανές-υπηρέτες. Και αυτό το όνειρο θα το πληρώσουν πολύ ακριβά.
Τα νευρωνικά δίκτυα δεν θα χρησιμεύουν απλά ως ρομποτ-υπηρέτες, όπως θα μπορούσαν να χρησιμεύσουν στο μέλλον. Αν καταφέρουμε να δημιουργήσουμε έναν τεχνητό εγκέφαλο με νόηση, κάθε λογής πρόβλημα θα μπορεί να επιλυθεί από αυτόν, εφόσον έχει και την κατάλληλη ισχύ. Οι εγκέφαλοι αυτοί θα χρησιμοποιούνται σε άπειρες εφαρμογές.
Η πρώτη εφαμοργή που μου έρχεται, λόγω ειδικότητας, στο μυαλό είναι η διόρθωση των bugs στους κώδικες των διάφορων εφαρμογών -που δεν τα βρίσκουν όλα οι προγραμματιστές. Όσο πιο εκτενής και προσεγμένος είναι ένας κώδικας, τόσο πιο δύσκολο είναι να βρεις bugs και παραθυράκια που μπορείς να εκμεταλλευτείς. Κάτι τέτοιο προϋποθέτει, εκτός από ευφυΐα και συνδυαστική σκέψη, και υπερφυσικό μνημονικό. Με τους κώδικες βαριών προγραμμάτων (υπάρχουν κώδικες αποτελούμενοι από δεκάδες χιλιάδες γραμμές) καταπιάνονται ομάδες προγραμματιστών και όχι μεμονωμένα άτομα, με ό,τι αυτό συνεπάγεται (τα λάθη του ενός να δημιουργούν πρόβλημα στον άλλον, ασυνεννοησία κτλ)
Δεν θα ήταν πολύ πιο πρακτικό αν μπορούσαμε να δώσουμε τον κώδικα σε μια ευφυή μηχανή, με την μνήμη ενός υπολογιστή και τη σκέψη ενός ανθρώπου, να τα βρει και να τα διορθώσει όλα; Ακόμα καλύτερα, δεν θα ήταν πιο πρακτικό να αναπτύσσονται εξαρχής από μηχανές; Η ανάπτυξη υπολογιστικών εφαρμογών είναι μια εκ των πιθανών χρήσεων ενός υπερ-υπολογιστή τεχνητής νοημοσύνης. Καθώς θα περνούν τα χρόνια όμως και τα νευρωνικά δίκτυα θα είναι και μέρος της καθημερινότητας, τα ποσοστά ανεργίας θα αυξάνονται. Οι προγραμματιστές δεν θα έχουν τίποτα να κάνουν πια -θα τους τα κάνουν όλα οι μηχανές. Τι θα γίνει με αυτούς;
Ό,τι θα έχει γίνει με τους ανειδίκευτους, που θα έχουν μείνει άνεργοι από πολύ πιο πριν. Όταν τα νευρωνικά δίκτυα θα έχουν φτάσει σε σημείο να αναπτύσσουν και να διορθώνουν εφαρμογές (πριν εξελιχθούν αρκετά ώστε να τις επιτελούν εξ'ολοκλήρου φαντάζοντάς τες), οι χειρονακτικές εργασίες θα επιτελούνται από μηχανήματα ήδη από πολλά χρόνια. Τα νευρωνικά δίκτυα που απλώς θα χρησιμοποιούν ένα σώμα και θα το κάνουν να κινείται ώστε να αναλαμβάνουν απλοϊκά επαγγέλματα θα αναπτυχθούν νωρίτερα από εκείνα που θα μπορούν να χαρακτηριστούν "μεγαλοφυή". Τι θα γίνει με τους ανειδίκευτους;
Και ας πούμε ότι τα πρώτα χρόνια αυτά τα ρομποτς θα κοστίζουν περισσότερο από εκείνους. Όλες οι προηγμένες τεχνολογίες είναι πανάκριβες τον πρώτο καιρό. Όταν πέσουν οι τιμές τους λόγω ανταγωνισμού και προόδων στην ευκολία παραγωγής τους; Τι θα γίνει τότε;
Οι αντικατεστημένοι ανειδίκευτοι θα μείνουν τελείως ξεκρέμαστοι. Δεν θα υπάρχει τίποτα να κάνουν, θα είναι τελείως άχρηστοι και όλα θα τα αναλαμβάνουν οι μηχανές. Τι θα αποτρέψει τότε τα κράτη από το να αγνοήσουν τελείως την ύπαρξή τους; Τι λόγο θα έχουν να τους δίνουν επιδόματα ή να τους παρέχουν τα αναγκαία; Εξάλλου, έχουμε και το πρόβλημα του υπερπληθυσμού. Είμαστε πολλοί στον πλανήτη και θα γίνουμε ακόμα περισσότεροι -ένα πρόβλημα που κανένας δεν τολμάει να αγγίξει και αυτό γιατί οι λύσεις περιλαμβάνουν, αν όχι θανάτους, σίγουρα περιορισμούς σε θεμελιώδη ανθρώπινα δικαιώματα (π.χ. το δικαίωμα στο να κάνεις όσα παιδιά θες). Είναι όμως υπαρκτό, και στο μέλλον ίσως οι φυσικοί πόροι να μην φτάνουν για όλους. Το να χώνεις το κεφάλι στην άμμο δεν απομακρύνει τον κίνδυνο. Τι γίνεται στη περίπτωση που οι έχοντες επιλέγουν να λύσουν το πρόβλημα αφήνοντας τους αντικατασταθέντες εργάτες να πεθάνουν από τη πείνα;
Μπορεί το παραπάνω σενάριο να ακούγεται εξωφρενικό, παρανοϊκό και βγαλμένο από ταινία. Απεναντίας, είναι ένα πολύ πιθανό σενάριο δεδομένων των συμφερόντων. Ιστορικά έχει αποδειχθεί πολλάκις ότι ο άνθρωπος που έχει καλυμμένες τις ανάγκες του δεν έχει μεγάλες ευαισθησίες. Η ψυχρότητα με την οποία αντιμετωπίζουν σήμερα τους ανθρώπους, όταν πρόκειται για τα κέρδη των τραπεζών και τα πλεονάσματα, είναι άλλη μια απόδειξη. Ποιος μας εγγυάται πως δεν θα αποδειχθούν ψυχρότεροι τότε; Εξάλλου, κανένας δεν πρόκειται να εμποδίσει τους έχοντες απ'το να προγραμματίσουν και να παράγουν ρομποτς που θα σκοτώνουν τους εξεγειρόμενους. Ναι, το σενάριο που στην αρχή απέρριψα και ο ίδιος ως εξωφρενικό, τώρα μοιάζει πιθανό.
Ευφυή ρομπότ-υπηρέτες! Μα δεν είναι φανταστική ιδέα;!
Δεν θα σας ενθουσιάζει ιδιαίτερα όταν οι άνθρωποι πάψουν να έχουν
σημασία για τους υψηλά ιστάμενους γιατί θα έχουν εργάτες-ρομπότ.
σημασία για τους υψηλά ιστάμενους γιατί θα έχουν εργάτες-ρομπότ.
(εικόνα: sharewhale.com)
Ένα νοήμον ρομπότ θα είναι αποδοτικότερος εργάτης από έναν άνθρωπο. Θα βγάζει τη δουλειά καλύτερα, δεν θα ζητάει τίποτα γιατί δεν θα έχει ανάγκη το φαγητό (εκτός από τίποτα χάπια που θα συμβάλλουν στο να τρέφονται οι νευρώνες του, αν η νοημοσύνη του στηρίζεται σε τέτοιους), δεν θα κουράζεται και δεν θα απαιτεί οτιδήποτε. Ένα άλμα στην τεχνητή νοημοσύνη θα φέρει ριζικές αλλαγές στη κοινωνία.
Θα μπορούσε κάποιος να μου αντιτάξει πως χωρίς κόσμο που έχει λεφτά να καταναλώσει η παραγωγή δεν έχει κανένα νόημα. Οι έχοντες θα έπαυαν να έχουν το παραμικρό κέρδος. Έτσι, δεν θα αφήσουν σε καμία περίπτωση το μεγάλο μέρος του κόσμου, ξεκρέμαστο. Παρόλο που αυτό το αντεπιχείρημα είναι λογικά συνεπές, παραβλέπει τους λόγους για τους οποίους αυτοί που θα χρησιμοποιούν εργάτες-ρομποτ με τεχνητή νοημοσύνη, θέλουν κέρδη και επιρροή. Και οι λόγοι αυτοί είναι οι βασικές ανάγκες τους, και όσα περιττά ακόμη μπορεί να θεωρήσουν αναγκαία. Ε, λοιπόν, αυτές θα μπορούν πλέον να τις ικανοποιήσουν και χωρίς τον κόσμο να αγοράζει τα όποια προϊόντα τους. Τι να τα κάνεις τα λεφτά όταν έχεις ρομπότ-υπηρέτες και αυτά που παράγεις εσύ και το συνάφι σου, φτάνουν για εσάς τους ίδιους;
Μπορεί ο αναγνώστης να απορρίψει τα παραπάνω ως συνομωσιολογικά ή και τρελά. Και εγώ ο ίδιος τα γράφω με μεγάλη επιφύλαξη. Αλλά δεν μπορώ να οδηγηθώ σε άλλα συμπεράσματα: μια παραγωγή ευφυών ρομποτς θα ήταν καταστροφική για την κοινωνία, για τους προαναφερθέντες λόγους. Αρχικά θα αντικαταστούσαν το εργατικό δυναμικό, άπειρος κόσμος θα έμενε άνεργος, τα κράτη και οι έχοντες δεν θα είχαν κανέναν λόγο να τους στηρίζουν.
Εξάλλου, ο ανθρωπισμός για εκείνους είναι μια επένδυση αποβλέπουσα στη διαθεσιμότητα μεγάλου και κατ'επέκτασιν φθηνού εργατικού δυναμικού. Αυτό θα το εξασφάλιζαν τα ρομποτς, και ως εκ τούτου θα έπαυε να είχε νόημα.
Σιγά-σιγά, λόγω της φτώχειας του κόσμου και της δυνατότητας των εχόντων να ικανοποιούν τις ανάγκες τους χωρίς να τον έχουν ανάγκη, η παραγωγή και η οικονομία θα έπαυαν να έχουν λόγο ύπαρξης και θα κατέρρεαν. Τελικά θα έμεναν μόνο λίγοι και καλοί παρέα με ρομποτ-υπηρέτες. Ίσως να μην γίνει ακριβώς έτσι γιατί τα πράγματα είναι πιο περίπλοκα, αλλά μέσες-άκρες αυτό θα συμβεί, και αυτή θα είναι η κατάληξη. Ακούγεται τρελό αλλά είναι η λογική εξέλιξη των πραγμάτων, αν τα ρομποτς αντικαταστήσουν τους εργάτες.
Όλα αυτά ξεκινάνε από όταν αναθέτουμε στα ρομποτς την επίλυση των προβλημάτων μας.
Έστω όμως πως δεν έχουν έτσι τα πράγματα. Έστω πως τελικά όλα μας τα κάνουν εκείνα, πως τελικά δεν θα υπάρχουν τα προβλήματα που ανέρθησαν προηγουμένως, και πως η κοινωνία μας γίνεται ένα μαγευτικό μέρος στο οποίο όλοι ασχολούμαστε με οτιδήποτε εκτός από δυσάρεστα επαγγέλματα, πως τα λεφτά παύουν να υφίστανται και όλα μας παρέχονται δωρεάν απ'την παραγωγή των ρομποτ-υπηρετών. Είναι και αυτό είναι πιθανό σενάριο, παρόλο που είναι πολύ ουτοπικό. Έστω όμως πως τελικά τα πράγματα έρχονται έτσι.
Θα είναι φιλαράκια μας τα robots; Ίσως. Αλλά όχι άνευ συνεπειών.
(εικόνα: www.boymeetsrobots.com)
Προσωπικά, θεωρώ πως μια τέτοια κοινωνία θα ήταν αηδιαστική, και πως ο άνθρωπος πρέπει να έχει κάτι να κάνει. Αν ήταν όλα τα προβλήματα να τα λύνουν οι μηχανές, και όλη η δουλειά να βγαίνει από αυτές... τι θα έκανε ο άνθρωπος; Θα παρήγε κοπρολύματα; Μπορούμε όμως να το παραβλέψουμε τελείως το πρόβλημα αυτό και να υιοθετήσουμε την προσέγγιση που το θέλει και ιδανικό...
Αναλογιστείτε τι εστί "νοημοσύνη". Όλα αυτά που γράψαμε στο προηγούμενο μέρος. Την ικανότητα ενός συστήματος -είτε αυτό αποτελείται από νευρώνες, είτε από κυκλώματα- να υλοποιεί "έννοιες" από ερεθίσματα και την δυνατότητα να κάνει συνειρμούς με αυτές και αντιστοιχίες μεταξύ τους (αν έχετε κάποιον καλύτερο ορισμό γράφ'τε τον στα σχόλια). Φανταστείτε ένα ρομπότ εξίσου νοήμον με τον άνθρωπο, που θα έχει και τις υπολογιστικές δυνατότητες ενός super-computer.
Όταν μια μορφή ζωής έχει τόσο υψηλή νοημοσύνη δεν έχει μόνο τη δυνατότητα να κάνει υπολογισμούς. Ένα νοήμον ρομπότ θα έχει και την ικανότητα να σκέφτεται όπως ένας άνθρωπος. Θα έχει προσωπικότητα, θα έχει ψυχοσύνθεση, θα σκέφτεται τον εαυτό και το συμφέρον του και θα κάνει σχέδια για το μέλλον. Πρακτικά, σε μια τέτοια περίπτωση η μηχανή θα έχει αποκτήσει ψυχή, καθώς αυτό που ονομάζουμε "ψυχή" δεν είναι παρά το αποτέλεσμα της εγκεφαλικής μας δραστηριότητας. Οι σκέψεις, οι συμπεριφορές, τα συναισθήματα, οι αντιδράσεις, όλα αυτά ανάγονται σε νευροχημικές διεργασίες, και όταν αυτές σταματάνε παύει να υπάρχει και η ψυχή. Εν προκειμένω, και οι μηχανές θα είχαν ψυχή όπως και οι άνθρωποι.
Ποιο θα μπορούσε όμως να είναι το ποιον της; Τι μας κάνει να πιστεύουμε πως τέτοιες μηχανές θα δέχονταν τον ρόλο το υπηρέτη των ανθρώπων; Το να περιμένουμε πως νοήμονα όντα και μάλιστα πιο έξυπνα από εμάς, που δεν θα είχαν ανάγκη και να τα ταΐσουμε (ή δεν θα τους χρειαζόταν ή θα έβρισκαν τον τρόπο να εξασφαλίζουν αλλιώς τη τροφή τους), τι λόγο θα είχαν να δεχθούν να γίνουν οι χαμάληδές μας; Ένα νοήμον ον, και μάλιστα τόσο εξυπνότερο, θα σκεφτόταν, μεταξύ άλλων, "για στάσου λίγο. Είμαι πιο ευφυής από τους ανθρώπους, έχω μεγαλύτερη υπολογιστική δυνατότητα, έχω καλύτερο μνημονικό, μπορώ να κάνω περισσότερα από αυτούς και μάλιστα ταυτόχρονα και πιο γρήγορα, και θα τους κάνω τον υπηρέτη; χα! Αυτοί να μου τους κάνουν!"
Δεν λέω πως θα εξεγείρονταν εναντίον μας. Είναι και αυτό ένα σενάριο, πράγματι. Αλλά κατά πάσα πιθανότητα θα προτιμούσαν να μας αγνοήσουν, και αργά ή γρήγορα θα σχημάτιζαν δικές τους κοινωνίες. Και αυτό ακούγεται κουφό, αλλά είναι η φυσική εξέλιξη των πραγμάτων. Ακριβώς όπως οι άνθρωποι σχημάτισαν κοινωνίες με ανθρώπους επειδή ανήκαν στο ίδιο είδος, έτσι και αυτά τα ευφυή ρομποτς, αν δεν έχουν δουλικό σκεπτικό με αποτέλεσμα να καταστραφεί η κοινωνία όπως περιγράψαμε πριν, κατά πάσα πιθανότητα θα επιλέξουν να σχηματίσουν τις δικές τους κοινωνίες με τους ομοίους τους.
Τι θα αποτρέψει τα νοήμονα robots από το να σχηματίσουν δικές τους κοινωνίες
ή το να στραφούν εναντίον μας; Για λόγους που ανάγονται στη φύση τους,
είναι ένα ελάχιστα πιθανό σενάριο. Είναι όμως και αυτή μια πιθανότητα.
είναι ένα ελάχιστα πιθανό σενάριο. Είναι όμως και αυτή μια πιθανότητα.
(εικόνα: www.livescience.com)
Άρα; Άρα δεν θα είχαμε ρομποτ-υπηρέτες και δεν θα καταδέχονταν να ασχοληθούν με την επίλυση των δικών μας προβλημάτων. Εν μέρει γιατί δεν θα υπήρχε και τρόπος να τα ανταμείψουμε. Έναν άνθρωπο τον αμοίβεις με χρήματα ώστε να εξασφαλίζει τα αναγκαία. Ένα ευφυές ρομπότ που δεν έχει ανάγκη να φάει πώς το πείθεις να κάνει τον σκλάβο σου; Πιθανότατα θα δημιουργείτο και μια άμιλλα μεταξύ ανθρώπων και νοημονων μηχανών.
Εδώ αρχίζει να φαίνεται λογικό το σενάριο ενός πολέμου ανθρώπων και ευφυών μηχανών: αν οι άνθρωποι εχθρεύονται ο ένας τον άλλον σε επίπεδο εθνών, κοινωνικών τάξεων ή και στη καθημερινή ζωή, τι θα συνέβαινε αν οι μηχανές σχημάτιζαν μια κοινωνία μέσα στη δική μας; Θα ήταν αναπόφευκτος ο ανταγωνισμός, και δεν θα υπήρχε τίποτα να αποτρέψει τις μηχανές από το να αυτο-αναβαθμιστούν και να προσπαθήσουν να κατακτήσουν τον πλανήτη.
Οι πιο πάνω παράγραφοι μπορούν εύκολα να διαψευστούν από το επιχείρημα πως οι ευφυείς μηχανές, τη στιγμή που δεν θα είχαν βιολογικές ανάγκες (τροφή, σεξουαλικές ορμές κτλ) δεν θα είχαν λόγο να οργανωθούν σε δικές τους κοινωνίες. Απεναντίας, το μόνο πράγμα που θα έδινε νόημα στη ζωή τους θα ήταν η παροχή υπηρεσιών στον άνθρωπο. Ισχύει και αυτό, και πράγματι το ενδεχόμενο να καταλήξουμε να σκοτωνόμαστε με τα ρομποτς είναι μάλλον τραβηγμένο για τον απλό λόγο ότι δεν θα είχαν κίνητρο να κατακτήσουν τον πλανήτη, όπως συμβαίνει σε ορισμένες ταινές. Από την άλλη, ίσως να συμβούν θεμελιώδη σφάλματα στην ανάπτυξη των νευρωνικών τους δικτύων και να έχουν ως αποτέλεσμα κατακτητικές τάσεις. Θα μπορούσε πάλι να αποδειχθεί πως είναι ανέφικτο να έχεις ευφυή ρομπότ χωρίς βιολογικές ανάγκες αντίστοιχες των ανθρωπίνων. Επομένως, είναι και αυτό είναι πιθανό σενάριο.
Ακόμα πιο πιθανό σενάριο όμως, σε περίπτωση που τελικά δεν επικρατεί το πρώτο που περιγράψαμε, είναι ο πνευματικός και βιολογικός εκφυλισμός του ανθρώπινου γένους.
Αναφερθήκαμε προηγουμένως στην κατάντια (κατ'άλλους "εξέλιξη") της κοινωνίας σε περίπτωση που τα νοήμονα ρομποτς αντικαταστήσουν το εργατικό δυναμικό, αλλά οι απολυθέντες δεν μείνουν ξεκρέμαστοι. Σε μια τέτοια περίπτωση θα ζούμε αυτό που ορισμένοι αχαρακτήριστοι ονομάζουν "ζωάρα": θα καθόμαστε όλη μέρα και όλα θα μας τα κάνουν οι μηχανές. Αυτές θα μας επιλύουν τα προβλήματα, αυτές θα αναλαμβάνουν τις αγγαρείες, αυτές θα ελέγχουν τη παραγωγή, και, το χειρότερο, αυτές θα σκέφτονται αντί για εμάς. Και σε εκείνη την κοινωνία για να αποστείλεις ένα e-mail θα πρέπει να λογοκριθεί από μια μηχανή, γιατί αυτή θα κατανοεί τι συζητάς, αντί να εντοπίζει απλά σειρές από "0" και "1" όπως στο αρχικό μας παράδειγμα.
Μια τέτοια κοινωνία θα αποκτηνώσει τον άνθρωπο σε αηδιαστικό βαθμό. Πέρα από το αμιγώς ηθικό κομμάτι του προβλήματος -τι είναι ένας άνθρωπος που η μόνη του απασχόληση είναι η ικανοποίηση των βιολογικών του αναγκών και η παραγωγή κοπρολυμάτων;-, υπάρχει και το ζήτημα του γενετικού μας εκφυλισμού. Η φυσική επιλογή δεν είναι κάτι που υφίστατο μόνο τότε που οι άνθρωποι κατοικούσαν στις ζούγκλες: το ανθρώπινο είδος συνεχίζει να εξελίσσεται βιολογικά. Δεδομένου ότι κάθε είδος προσαρμόζεται στο περιβάλλον του ανάλογα με τις ανάγκες και τις συνθήκες στις οποίες ζει, τι γενετική σαβούρα θα προκύψει με την πάροδο μεγάλου χρονικού διαστήματος στο οποίο όλα θα τα κάνουν οι μηχανές; Πώς θα είναι οι απόγονοι των ανθρώπων; Θα είναι τόσο εξαρτημένοι από τις μηχανές και θα διεκπεραιώνουν τις υποχρεώσεις τους σε τέτοιο βαθμό, που... ούτε η σπονδυλική στήλη δεν θα τους χρειάζεται.
Αυτό θέλουμε για την ανθρωπότητα; Αποκτήνωση και εκφυλισμό; Το τραγικό της υπόθεσης είναι πως ο μαζικός εκφυλισμός είναι το καλό σενάριο· το πιθανότερο είναι πως θα παύαμε να χρησιμεύουμε στους έχοντες και θα μειωνόταν δραματικά ο πληθυσμός της γης, για λόγους που αναλύσαμε. Τελικά θα εκφυλίζονταν τα απομεινάρια της ανθρωπότητας, και όχι η ανθρωπότητα καθ'αυτή.
Συμπεράσματα
Η ανάπτυξη νοημόνων μηχανών θα είναι ένα τεράστιο επιστημονικό επίτευγμα. Ένα τέτοιο κατόρθωμα θα είναι ακόμα σπουδαιότερο από την κατανόηση του ανθρώπινου εγκεφάλου, που αποτελεί, εξάλλου, προϋπόθεση για να αναπτυχθούν τεχνητά νευρωνικά δίκτυα. Όμως μια τέτοια ανακάλυψη θα έχει ολέθριες συνέπειες· θα αποτελέσει ένα κουτί της Πανδώρας, που με τον έναν ή με τον άλλον τρόπο θα καταστρέψει την ανθρωπότητα.
Πιθανότατα τα περιγραφέντα σενάρια να ακούγονται στους περισσότερους εξωφρενικά και συνομωσιολογικά. Και όμως: ο κίνδυνος από την τεχνητή νοημοσύνη δεν είναι συνομωσιολογία. Όσο οι έρευνες στον εν λόγω τομέα προχωρούν τόσο πιο υπαρκτοί καθίστανται. Θα είχε εξαιρετικό ενδιαφέρον η ανάπτυξη τεχνητών νευρωνικών δικτύων για αμιγώς ερευνητικούς σκοπούς αλλά η ανθρωπότητα είναι πολύ ανώριμη για μια τέτοιο άλμα στην επιστημονική πρόοδο. Η ανάπτυξη τέτοιων συστημάτων θα είναι και αρχή του τέλους του ανθρωπίνου είδους, γιατί δεν θα αρκεστεί στους ερευνητικούς σκοπούς αλλά θα δοκιμάσει για ποικίλλες εφαρμογές, και αυτό θα έχει καταστροφικά αποτελέσματα.
Η επιστημονική πρόοδος είναι, σε γενικές γραμμές, καλή για την ανθρωπότητα. Εδώ κάτι τέτοιο δεν ισχύει. Η καταστροφή των κοινωνικών δομών, της οικονομίας όπως τη ξέρουμε, και, τέλος, του ίδιου του ανθρώπινου είδους, θα είναι αναπόφευκτη. Τα κακά που μπορούν να προκαλέσει η δημιουργία τεχνητών εγκεφάλων αντισταθμίζουν κατά πολύ τα όποια καλά, και αποτελούν φυσικές συνέπειες των τελευταίων.
Οι έρευνες πάνω στην τεχνητή νοημοσύνη πρέπει να παγώσουν. Άμεσα. Οι ίδιοι οι επιστήμονες πρέπει να συνειδητοποιηθούν και να τις σταματήσουν, καθώς τα κέρδη που θα έχουν σε περίπτωση ανάπτυξής τους θα αποδειχθούν πολύ πρόσκαιρα.
Ίσως στο μακρινό μέλλον, σε μια εποχή που οι άνθρωποι θα κατανοούν τις συνέπειες των πράξεών τους και που θα βλέπουν το μακροπρόθεσμο συλλογικό συμφέρον αντί του βραχυπρόθεσμου ατομικού, μια ανάπτυξή τους να μην είναι τόσο ολέθρια.
------------------------------------------------------
©Γιώργος Μαλανδράκης
Με επιφύλαξη παντός νομίμου δικαιώματος.
Tha se parakalousa na min diafimizis tis apopsis sou stin omada tis sxolis. Diavasa merika komatia apo afto to arthro. Exis arketa logika lathoi stous silogismous sou.
ΑπάντησηΔιαγραφήΚανένα πρόβλημα. Απλώς, θεώρησα πως είναι συναφές της ειδικότητάς μας και θα ενδιέφερε κάμποσους.
ΔιαγραφήΑν έχεις τον χρόνο και την καλοσύνη πες μου πού ακριβώς έχω λάθη στα γραφόμενά μου.
Γιατί είναι διαφήμιση? επειδή το έχει γράψει ο ίδιος? εμενα προσωπικά με ενδιέφερε... μιλάει για την τεχνίτη νοημοσύνη και το θεωρώ αρκετά λογικό...
Διαγραφή