Το chatbot είναι ικανό για μερικά εντυπωσιακά κατορθώματα, από την πλαστοπροσωπία ιστορικών προσώπων μέχρι τη συγγραφή εκπληκτικών δοκιμίων. Το τι θα κάνει εξαρτάται από τον άνθρωπο.

Ήταν στα τέλη της δεκαετίας του 1960 και ο επιστήμονας υπολογιστών του MIT είχε ολοκληρώσει την εργασία στο ELIZA, το πρώτο αυτόνομο πρόγραμμα συνομιλίας μέσω υπολογιστή στον κόσμο. Με 200 γραμμές κώδικα, το ELIZA ήταν ικανό να κρατήσει το ένα άκρο μιας συνομιλίας με έναν άνθρωπο. Το πρόγραμμα ήταν στοιχειώδες αλλά αποτελεσματικό, ίσως υπερβολικά αποτελεσματικό.

Η ELIZA ήταν ένα απλό πρόγραμμα υπολογιστή. Θα αναζητούσε τη λέξη-κλειδί στη δήλωση ενός χρήστη και στη συνέχεια θα την αντανακλούσε με τη μορφή μιας απλής φράσης ή ερώτησης. Όταν δεν καταλάβαινε τι της έλεγε ο χρήστης, τότε χρησιμοποιούσε ένα σύνολο γενικών προτροπών όπως "παρακαλώ συνεχίστε" ή "πες μου περισσότερα". Το πρώτο chatbot, κοινώς.

Ο Weizenbaum γεννήθηκε στο Βερολίνο της Γερμανίας το 1923 και έφυγε από τη χώρα με την οικογένειά του το 1935 για να ξεφύγει από τη ναζιστική κυριαρχία. Κατέληξαν στις Ηνωμένες Πολιτείες. Μετά από μια θητεία στο Σώμα Αεροπορίας Στρατού ως μετεωρολόγος, ο Weizenbaum συνέχισε την επίσημη εκπαίδευσή του και εφάρμοσε τις σημαντικές μαθηματικές του δεξιότητες στην αναπτυσσόμενη βιομηχανία των υπολογιστών. Οι υπολογιστές της εποχής, γίγαντες, μεγάλοι υπολογιστές που εκτείνονταν σε δωμάτια,  ήταν στα σπάργανα, αλλά ήδη έδειχναν τις δυνατότητές τους για εμπορική και εκπαιδευτική χρήση. Το 1955, ο Weizenbaum βοήθησε την General Electric στο σχεδιασμό του πρώτου υπολογιστή που χρησιμοποιήθηκε για τραπεζικές εργασίες.

Αργότερα, ως επισκέπτης αναπληρωτής καθηγητής επιστήμης υπολογιστών στο Τεχνολογικό Ινστιτούτο της Μασαχουσέτης (MIT), ο Weizenbaum άρχισε να διερευνά τις δυνατότητες αυτών των υπολογιστών να έχουν αγγλόφωνες αλληλεπιδράσεις με τον μέσο άνθρωπο, κάτι που δεν ήταν δυνατό εκείνη τη στιγμή. Το να «μιλάς» σε έναν υπολογιστή σε εκείνο το σημείο συνήθως σήμαινε εκμάθηση μιας γλώσσας προγραμματισμού.

Οι άνθρωποι χρειάζονται ανθρώπους

Ο καλύτερος τρόπος για να επιτευχθεί μια συνομιλία μεταξύ ενός υπολογιστή και ενός ανθρώπου, πίστευε ο Weizenbaum, ήταν να μιμηθεί την επαναλαμβανόμενη δομή μιας συνεδρίας ψυχανάλυσης, με το πρόγραμμα να επαναλαμβάνει λέξεις και να επαναδιατυπώνει δηλώσεις που του δίνονται με τη μορφή ερώτησης. Η ιδέα, είπε το 1984, ήταν να έχουμε ένα πρόγραμμα που δεν χρειαζόταν μια βαθιά δεξαμενή γνώσης. Η ιδέα χρειαζόταν «συζητήσεις στις οποίες ένα από τα μέρη δεν χρειάζεται να ξέρει τα πάντα, και μου ήρθε στο μυαλό ένας ψυχίατρος. Ίσως αν το σκεφτόμουν 10 λεπτά παραπάνω, θα είχα βρει έναν μπάρμαν».

Χρησιμοποίησε μια γλώσσα προγραμματισμού που ονόμασε MAD-SLIP για να δημιουργήσει το πρόγραμμα. Το ονόμασε ELIZA από τον χαρακτήρα Eliza Dolittle από το έργο του George Bernard Shaw το 1913, Pygmalion (Μια προσαρμογή του έργου, το μιούζικαλ My Fair Lady, έκανε το ντεμπούτο της το 1956)

Ο Weizenbaum έκανε το ντεμπούτο του στο ELIZA το 1966. Προσκάλεσε φοιτητές του MIT καθώς και συναδέλφους του να αλληλεπιδράσουν με το πρόγραμμα. Τα μηνύματα στάλθηκαν στον κεντρικό υπολογιστή μέσω ενός συστήματος χρονομερισμού [PDF], το οποίο επέτρεπε στο υλικό να φιλοξενεί πολλούς χρήστες ταυτόχρονα.

Οι δηλώσεις στη συνέχεια αναλύθηκαν από την ELIZA και στάλθηκαν πίσω σε ηλεκτρική γραφομηχανή και εκτυπωτή. Λέξεις όπως φίλη, κατάθλιψη, τι, μητέρα και πατέρας θα μπορούσαν να προκαλέσουν απαντήσεις. Οι χρήστες έπρεπε να προσέχουν να μην χρησιμοποιούν ερωτηματικό, το οποίο θα ερμηνευόταν ως αίτημα διαγραφής γραμμής.

Υπάρχουν πτυχές της ανθρώπινης ζωής που ένας υπολογιστής δεν μπορεί να καταλάβει

Ξανά και ξανά, όσοι δοκίμαζαν το ELIZA αισθάνονταν τόσο άνετα με το μηχάνημα που άρχισαν να χρησιμοποιούν το πρόγραμμα ως ένα είδος εξομολογητή. Προσωπικά προβλήματα κοινοποιήθηκαν για τη συμβουλή της ELIZA - στην πραγματικότητα, η ικανότητα του προγράμματος να ακούει χωρίς κρίση.

Ο Weizenbaum φρόντισε να εξηγήσει ότι ήταν απλώς ένα πρόγραμμα, ότι κανένας άνθρωπος δεν βρισκόταν στην άλλη άκρη της γραμμής. Δεν είχε σημασία. Ο κόσμος διαπότισε την ELIZA με το ίδιο το ανθρώπινο χαρακτηριστικό της συμπάθειας.

Αυτή η παρατήρηση θα μπορούσε να ευχαρίστησε τον εφευρέτη της ELIZA, εκτός από το γεγονός ότι τον ενοχλούσε η προθυμία ενός ατόμου να συνδυάσει ένα πρόγραμμα με πραγματικές ανθρώπινες σχέσεις. Έχοντας γλιτώσει από την τυραννική κυριαρχία της ναζιστικής Γερμανίας, ήταν ίσως ειδικά συντονισμένος με τους κινδύνους της μείωσης του ανθρώπινου παράγοντα στην κοινωνία.

Ως αποτέλεσμα, το ELIZA έγινε κάτι σαν επώδυνο σημείο για τον Weizenbaum, ο οποίος έστρεψε την προσοχή του στη συγκέντρωση κριτικών για την εισαγωγή της ανθρώπινης σκέψης πολύ γρήγορα και την παροχή υπερβολικής αξιοπιστίας στην ψευδαίσθηση της ευφυΐας.

«Υπάρχουν πτυχές της ανθρώπινης ζωής που ένας υπολογιστής δεν μπορεί να καταλάβει, δεν μπορεί», είπε ο Weizenbaum στους New York Times το 1977. «Είναι απαραίτητο να είσαι άνθρωπος. Η αγάπη και η μοναξιά έχουν να κάνουν με τις βαθύτερες συνέπειες της βιολογικής μας σύστασης. Αυτό το είδος κατανόησης είναι καταρχήν αδύνατη για τον υπολογιστή».

Στην περίπτωση της ELIZA, αυτό θα μπορούσε μερικές φορές να επιτευχθεί με το χρόνο. Μετά από μια ντουζίνα ανταλλαγές, οι περιορισμοί του προγράμματος άρχισαν να φαίνονται και η συζήτηση έγινε πιο κουραστική. Το ίδιο ισχύει και για το PARRY, ένα chatbot που εισήχθη από τον ψυχίατρο του Στάνφορντ, Κένεθ Κόλμπι το 1971, και ένα που είχε σκοπό να μιμηθεί τη συμπεριφορά ενός ατόμου με παρανοϊκή σχιζοφρένεια. 

Στα μέσα της δεκαετίας του 1970, ο Weizenbaum ανησυχούσε αρκετά για την τροχιά της τεχνητής νοημοσύνης που έγραψε το βιβλίο του 1976 Computer Power and Human Reason: From Judgment to Calculation, το οποίο υποστήριξε ότι οι υπολογιστές δεν μπορούν ποτέ να είναι παντογνώστες.

Οι άνθρωποι, είπε, χρειάζονται ανθρώπους για να αντιμετωπίσουν τα ανθρώπινα προβλήματα. Αν και αυτή δεν ήταν η μόνη ένσταση που ακούστηκε σχετικά με τους υπολογιστές, ήταν μια από τις σπάνιες φορές που ένας επιστήμονας υπολογιστών κρούει τον κώδωνα του κινδύνου.

Το ELIZA κέρδισε κάποια ανανεωμένη προσοχή το 1980, όταν ο αναπτυσσόμενος κόσμος των προσωπικών υπολογιστών δημιούργησε ένα πρόγραμμα συνομιλίας. 

Τη στιγμή του θανάτου του το 2008, ο Weizenbaum εξακολουθούσε να προειδοποιεί για τους κινδύνους της αλόγιστης τεχνολογικής εξέλιξης.