Γειά σας. Διάβασα το τρίτο newsletter και θα ήθελα να παραθέσω μερικές
σκέψεις για το θέμα της πιθανής συνείδησης των υπολογιστών. Θα ήθελα
καταρχήν να πω οτι εαν αυτό που γράφεται : " πως εαν φαίνεται οτι έχουν
συνείδηση τότε έχουν " ισχύει και για άλλα θέματα εκτός από την τεχνητή
νοημοσύνη (ΤΝ) τότε πρέπει να κατεβάσετε αυτό το site αμέσως καθότι
παραπλανά το κόσμο απο το να πιστεύει αυτό που βλέπει με τη πρώτη ματιά και
τον καθοδηγεί στο να το εξετάζει κριτικά. Εαν λοιπον ο τάδε ενώ φαίνεται οτι
έχει μαγικές ικανότητες στην πραγματικότητα δεν έχει, δεν βλέπω το λόγο
γιατί όταν μελετάμε το αντικείμενο των ΤΝ πρέπει να αποδίδουμε τόσο εύκολα
ιδιότητες και να αναγνωρίζουμε οντότητες μόνο και μόνο γιατί ετσι φαίνεται.
Απ.: Το σχόλιο μου για το Φαίνεσθαι και το Είναι, αναφέρεται στο
συγκεκριμένο θέμα με τη συνείδηση. Προφανώς και δεν το γενικεύω. Η σύγκριση που κάνετε δεν είναι δόκιμη μιας και το να έχει κάποιος μαγικές ιδιότητες (δηλαδή ν' αψηφά του φυσικούς νόμους) είναι εντελώς διαφορετικό από το αν μπορεί ή όχι να έχει συνείδηση μια μηχανή. Στην πρώτη περίπτωση είναι λογικό να θεωρήσουμε ότι τα "μαγικά" είναι απάτη μιας και οι φυσικοί νόμοι δεν μπορούν να παραβιαστούν. Στη δεύτερη περίπτωση όμως, το θέμα της συνείδησης είναι υπό διερεύνηση και δεν υπάρχει κάτι που να απαγορεύει μια μηχανή να έχει συνείδηση.
Αν μου επιτρέπετε θα ήθελα να χρησιμοποιήσω το παράδειγμα ενός
αυτοκινήτου που κινείται σε ευθεία ελεγχόμενο απο ένα υπολογιστή με τον εξής
αλγόριθμο α)εαν το φανάρι είναι πρασινο επιταχυνε β)εαν το φαναρι είναι
κοκκινο επιβράδυνε. Εαν το φανάρι είναι κίτρινο τι θα συμβεί? Η θα θεωρήσει
τα δεδομένα λάθος οποτε δεν θα δράσει καθόλου ή ακόμη και θα εκραγεί αν
θεωρήσει τα δεδομένα κατι ανάμεσα στα δύο. Και ενω ενας εξωτερικός
παρατηρητής βλέποντας το αυτοκίνητο να αντιδρά σωστά είχε καταλήξει στο
συμπέρασμα πως διαθέτει συνείδηση, τώρα νομίζει πως τελικά δεν έχει. Η
συνείδηση έχει την ιδιότητα της εξαφάνισης λόγω λανθασμένων δεδομένων?
Αντίθετα και το πιο ατελές ον στη φύση αντιδρά πάντα σε οποιαδήποτε
κατάσταση και να βρεθεί. Πως μπορούμε να μιλάμε για συνείδηση όταν αρκεί να
αφαιρέσουμε μια γραμμή κώδικα για να θέσουμε το πιο εξελιγμένο software
εκτός λειτουργίας?
Απ.: Το παράδειγμα που φέρνετε είναι μάλλον απλοϊκό. Το αν μπορεί ένας υπολογιστής να οδηγήσει επιτυχώς ένα αυτοκίνητο (εμείς ένα τέτοιο υπολογιστή τον ονομάζουμε ελεγκτή) δεν είναι θέμα συνείδησης του υπολογιστή. Υπάρχουν υπολογιστές που ελέγχουν με εξαιρετική επιτυχία διάφορες διεργασίες. Κανείς δεν ισχυρίστηκε ότι οι ελεγκτές έχουν συνείδηση. Η συνείδηση έχει και άλλα χαρακτηριστικά που δεν εμφανίζουν οι αυτόματοι ελεγκτές. Παρεμπιπτόντως, το τι θα κάνει ο υπολογιστής αν δει κίτρινο φανάρι, είναι άγνωστο. Μπορεί να "κολλήσει", να βγάλει λάθος. Εξαρτάται από το πρόγραμμα του. Σίγουρα πάντως ΔΕΝ θα εκραγεί!
Η συνείδηση δεν έχει όντως την ιδιότητα εξαφάνισης λόγω λανθασμένων δεδομένων. Αλλά γιατί να εξαφανίζεται η συνείδηση; Αν θεωρήσετε ότι ο ελεγκτής έχει συνείδηση, τότε μπορείτε να πείτε ότι η αβέβαιη αντίδραση του στο κίτρινο φανάρι είναι μέρος της απόκρισης της συνείδησης του. Και πάλι όμως, όπως είπα και πριν, η απόκριση σε κάποιες διεργασίες δεν είναι ισοδύναμη με τη συνείδηση. Δηλαδή το αν ένας υπολογιστής μπορεί να αποκρίνεται σε κάποια ερεθίσματα, αυτό δεν το κάνει να έχει συνείδηση. Μπορείτε να ισχυριστείτε ότι ο ελεγκτής έχει συνείδηση επειδή οδηγά το αυτοκίνητο; Προφανώς και όχι. Δεν είναι το θέμα αυτό. Το θέμα είναι να ο ελεγκτής έχει επίγνωση ότι είναι μια ξεχωριστή οντότητα. Αυτό φαίνεται να είναι βασικό χαρακτηριστικό της συνείδησης. Συνεπώς θεωρώ ότι το συγκεκριμένο παράδειγμα δεν επαρκεί για να αποτελέσει επιχείρημα υπέρ ή κατά της συνείδησης.
Όσο για το αν αρκεί να αφαιρέσουμε μια γραμμή κώδικα για να θέσουμε το πιο εξελιγμένο software εκτός λειτουργίας, πρέπει να σας πως ότι δεν είναι ακριβώς έτσι τα πράγματα. Υπάρχουν διαφόρων ειδών λάθη στον κώδικα, άλλα καταστροφικά και άλλα όχι. Κάποιο λάθος μπορεί όντως να κάνει ένα σύστημα να "κρεμάσει". Όμως έχετε στο μυαλό σας τον κλασσικό γραμμικό προγραμματισμό. Υπάρχουν και άλλοι υπολογιστές που δεν έχουν αυτόν τον προγραμματισμό. Το πιο κλασσικό παράδειγμα είναι τα Τεχνητά Νευρωνικά Δίκτυα (ΤΝΔ). Τα ΤΝΔ δεν προγραμματίζονται με κώδικα. Οι επεξεργασία της πληροφορίας συμβαίνει σε όλο το ΤΝΔ κατανεμμημένα. Τα ΤΝΔ εμφανίζουν εντυπωσικά χαρακτηριστικά όπως η μάθηση (μπορούν και μαθαίνουν από την εμπειρία), η γενίκευση (βασισμένα στην εμπειρία μπορούν να γενικεύουν), η ανοχή σε βλάβες (αν καταστραφεί τμήμα του ΤΝΔ, το υπόλοιπο μέρος συνεχίζει να επιτελεί τη διεργασία όσο καλύτερα μπορεί), η ευρωστία (αν παρουσιαστούν στην είσοδο του δεδομένα άγνωστα ή με θόρυβο, το ΤΝΔ μπορεί να βγάλει μια "λογική" απόκριση) και διάφορα άλλα. Επειδή η επεξεργασία είναι κατανεμμημένη, δεν γνωρίζουμε πως ακριβώς κωδικοποιεί τη γνώση. Διάφοροι επιστήμονες πιστεύουν πως το φαινόμενο της συνέιδησης οφείλεται στην κατανεμμήμενη αυτή επεξεργασία της πληροφορίας, και ότι αν αναπτυχθεί ένα αρκετά πολύπλοκο ΤΝΔ, ίσως να αναπτύξει και συνείδηση. Δηλαδή, η συνείδηση είναι ένα φαινόμενο που αναδύεται μέσα από την πολυπλοκότητα (emergent).
Εάν ξύπναγε κάποιος αύριο και οι πάντες γύρω του μιλούσαν εντελώς
ακατανόητη γλώσσα και αυτό κάθε μέρα απο εδω και πέρα, θα πάθαινε προφανώς
μεγάλη κρίση ταυτότητας στην αρχή και θα εμφάνιζε ψυχοσωματικές ασθένειες
αργότερα. Εδω βλέπουμε πως μια αδυναμία λογικής εξήγησης του κόσμου θα
γεννήσει άγχη ,ατελείωτη εσωστρέφεια , αίσθημα πανικού, και φυσικά με το
καιρό την πλήρη νευρική κατάρευση. Φυσικά θα ακολουθήσει και η σωματική. Ο
λογικός άνθρωπος έχει το κεφάλι του ήσυχο και καθαρό, ακούει το σώμα του και
ικανοποιεί τις ανάγκες του , και κοιτάζει όσο μπορεί να μην βιώνει λύπες και
άγχη. Παρατηρήστε παρακαλώ σε πόσο στενή σχέση είναι όλα αυτά δηλαδή η
νοητική του λειτουργία , η ψυχική και η σωματική του κατάσταση. Καμιά φορά"ντοπαριζόμαστε ψυχολογικά" για να επιτύχουμε κάτι και αμέσως σκεφτόμαστε
καθαρότερα και νοιώθουμε το σώμα πρόθυμο να βγάλει το μέγιστο των δυνάμεων.
Αλλη φορά "ντοπαριζόμαστε φιλοσοφικά" με θετική σκέψη προσπαθώντας να δούμε
την καλή πλευρά του πράγματος και αναζητούμε διεξόδους και ευκαιρίες για
ανάκαμψη. Τότε η ψυχολογία μας βελτιώνεται. Το ίδιο μπορεί να συμβεί και με
καλή διατροφή , ή με συμπληρώματα ή με γυμναστική. Νούς, ψυχή και σώμα
είναι σε σχέση και μαζί δημιουργούν την συνείδηση.
Απ.: Αν ίσχυε αυτό που λέτε, τότε τα μωρά που δεν καταλαβαίνουν τη γλώσσα και δεν "ντοπάρονται" ψυχολογικά ή φιλοσοφικά, έχουν συνείδηση ή όχι; Δεν νομίζω ότι η συνείδηση είναι θέμα προσωπικότητας ή ψυχικής υγείας. Όταν λέτε ότι "Νούς, ψυχή και σώμα
είναι σε σχέση και μαζί δημιουργούν την συνείδηση" τότε εννοείτε ότι υπάρχει ο Νους (που συνήθως ταυτίζεται με τη συνείδηση) σαν ξεχωριστή οντότητα, η Ψυχή σαν ξεχωριστή οντότητα, και το Σώμα σαν ξεχωριστή οντότητα. Δηλαδή υπάρχουν τρεις Πραγματικότητες/Ουσίες στο Σύμπαν. Το κλασσικό πρόβλημα με αυτή τη θέση είναι 1) Ποιά είναι η φύση των πραγματικοτήτων αυτών, και 2) Πως αλληλεπιδρούν μεταξύ τους, και κυρίως με το σώμα. Επειδή κανείς δεν έχει απαντήσει ικανοποιητικά σ'αυτά, η πλειοψηφία των επιστημόνων σήμερα δέχεται μόνο την ύπαρξη μιας Φύσης/ Πραγματικότητας: του Σώματος, δηλαδή της ύλης. Είναι δηλαδή Υλιστές/ Φυσικαλιστές. Δεχόμενοι το υλισμό, για να εξηγήσουμε το φαινόμενο της συνείδησης θεωρούμε ότι αυτό πηγάζει από την ύλη και μόνο. Είναι δηλαδή μια ιδιότητα της ύλης. Εφόσον η ύλη έχει τις ίδιες ιδιότητες, δηλαδή τόσο ο άνθρωπος όσο και μια μηχανή αποτελούνται από την ίδια -ποιοτικά- ύλη, είναι λοιπόν *λογικό* να υποθέσουμε ότι το φαινόμενο της συνείδησης μπορεί να παρουσιαστεί και σε μια μηχανή. Φυσικά το πρόβλημα είναι το πως θα εμφανιστεί. Μπορεί να έχουμε την ίδια ύλη, αλλά ο τρόπος που είναι διατεταγμένη σε μας και στη μηχανή, δεν είναι ο ίδιος. Τι το ιδιαίτερο έχει ο τρόπος διάταξης της ύλης σε μας και εμφανίζουμε συνείδηση, ενώ στο μηχάνημα δεν συμβαίνει το ίδιο; Αυτό ακριβώς ερευνάται.
Εχω λοιπόν μία απορία:- εαν γνωρίζεται πως τοποθετούνται οι μελετητές σε
αυτό το θέμα παρακαλώ απαντήστε μου- Εαν είχαμε έναν υπολογιστή με συνείδηση
τότε αυτή απο πού θα παραγόταν? α) απο το hardware? β) απο το software? γ)
απο κάποια αλληλεπίδραση μεταξύ τους? Και αν στείλετε mail πείτε μου και
εαν ξέρετε κάτι για το εξής: Εαν τα συστήματα θα έχουν συνείδηση θα έχουν
όλα την ίδια?
Μέχρι να μου απαντήσετε θα μου επιτρέψετε να παρακολουθώ το θέμα με πολύ
σκεπτικισμό. Γιατι για μένα δεν είναι λογικό να έχουν οι υπολογιστές
συνείδηση. Είναι παράλογο.
Υ.Γ.- Φανταστήτε όταν μαζί με τα system requirements θα γράφουν πως πρέπει
να είναι ο υπολογιστής καλό παιδί κλπ ...
Αθανασόπουλος Δημήτρης
Τοπογράφος Μηχανικός
Απ.: Η απάντηση στην ερώτηση που θέσατε -περί hardware ή software- δεν μπορεί παρά να είναι υποθετική μιας και δεν έχει κατασκευαστεί μηχάνημα με συνείδηση, οπότε κανείς δεν γνωρίζει. Θα προσπαθήσω να σας απαντήσω, αν και θέλει αρκετή ανάλυση αυτό που θα σας πω. Η γενική ιδέα είναι ότι η συνείδηση θα παραχθεί από το software. Βέβαια, το software υλοποιείται από το hardware, αλλά δεν είναι το hardware εκείνο που θα κάνει ένα μηχάνημα να παρουσιάσει συνείδηση. Δηλαδή, δεν έχει το ίδιο το hardware - η ύλη του- κάποια συγκεκριμένη ιδιότητα που θα οδηγήσει το μηχάνημα στη συνείδηση. Πιστεύεται ότι η συνείδηση είναι ένα τυπικό σύστημα. Σαν συνέπεια αυτού, η υλοποίηση της είναι ανεξάρτητη του μέσου. Οτιδήποτε μπορεί να υλοποιήσει το τυπικό αυτό σύστημα, μπορεί να υλοποιήσει τη συνείδηση. Πίσω απ' αυτή την ιδέα, κρύβεται η θεώρηση ότι η συνείδηση είναι μια υπολογιστική διαδικασία, με την ευρεία έννοια. Τώρα για το αν τα συστήματα που θα έχουν συνείδηση, θα έχουν όλα την ίδια, και πάλι δεν υπάρχει απάντηση σ' αυτό. Αν θα μπορούμε να αντιγράψουμε ακριβώς την κατάσταση ενός συστήματος σε ένα άλλο, δηλαδή να δημιουργήσουμε ένα ακριβές αντίτυπο -προσέξτε όμως, όχι ακριβές υλικό αντίτυπο αλλά ακριβές ως προς τις καταστάσεις που έχει κωδικοποιήσει- τότε πιστεύω ότι τα δυο συστήμα θα έχουν την ίδια συνείδηση.
Όπως καταλαβαίνετε η συζήτηση για το θέμα είναι πολύ μεγάλη. Θα σας πρότεινα να διαβάσετε τα παρακάτω σαν μια κάποια εισαγωγή, όπου θα συναντήσετε και τις διάφορες απόψεις των επιστημόνων:
