Οι κίνδυνοι της Τεχνητής Νοημοσύνης
Η Τεχνητή Νοημοσύνη κάνει πολύ γρήγορα όσα απαιτούν από εμάς πολύ χρόνο. Ο αντίκτυπός της συνίσταται στη ρομποτοποίηση των διανοητικών διεργασιών. Όπως οι υπολογιστές έφεραν επανάσταση στον κόσμο της εργασίας για τους χειρώνακτες εργαζομένους, έτσι και η Τεχνητή Νοημοσύνη θα φέρει επανάσταση στον κόσμο της εργασίας για τους εργαζομένους γραφείου. Ήδη γινόμαστε μάρτυρες μιας σειράς καταστροφών, όχι εξαιτίας των συστημάτων ΤΝ, αλλά εξαιτίας εκείνων που τα χειρίζονται. Δεν πρέπει να ελέγχουμε την ποιότητα των συστημάτων ΤΝ μας, αλλά την ευφυΐα εκείνων που τους εμπιστεύονται.
Τα μέσα ενημέρωσής μας έχουν καταληφθεί από μια συζήτηση σχετικά με την αξία και τους κινδύνους της Τεχνητής Νοημοσύνης (ΤΝ). Ωστόσο, υπό την επιρροή του συγγραφέα επιστημονικής φαντασίας Ελίεζερ Γιούντκοφσκι, ο οποίος αναδείχθηκε σε γκουρού της Σίλικον Βάλεϊ, επικεντρώνονται σε μια μυθολογική προσέγγιση: στην ιδέα μιας μηχανής που θα υπερισχύσει του ανθρώπου και θα τον καταστρέψει. Πρόκειται απλώς για επανάληψη των θεμάτων του γκόλεμ ή του Φρανκενστάιν. Όμως, καθώς ένα σύστημα Τεχνητής Νοημοσύνης δεν μπορεί να δημιουργήσει, αλλά μόνο να αναπαράγει με τεράστια ταχύτητα, αυτός ο κίνδυνος δεν έχει πραγματική βάση.
Ο κίνδυνος που αντιμετωπίζουμε ήδη είναι να αφήσουμε τον εαυτό μας να γοητευτεί από τη μηχανή. Πολλοί άνθρωποι αναπτύσσουν συναισθηματικούς δεσμούς με τα συνομιλιακά ρομπότ (chatbots). Τους λένε όσα θέλουν να ακούσουν και τα ενθαρρύνουν στις αδυναμίες τους. Πρόκειται για ένα πρόβλημα που είναι ήδη γνωστό στους ψυχολόγους.
Η χρήση συστημάτων ΤΝ από τα στρατιωτικά επιτελεία άρχισε τη δεκαετία του 1990, κατά τον Πόλεμο του Κόλπου, για την επίλυση προβλημάτων εφοδιαστικής υποστήριξης μέσω της ταυτόχρονης επεξεργασίας μεγάλου αριθμού παραγόντων. Σταδιακά, εξοπλίστηκε με συστήματα ΤΝ ένας πολύ μεγάλος αριθμός όπλων. Τα προβλήματα εμφανίστηκαν μόνο όταν άρχισε να χρησιμοποιείται η ΤΝ για τη λήψη αποφάσεων σε πραγματικό χρόνο, δηλαδή από το 2024.
Η Γαλλία αποφάσισε, τον Μάρτιο του 2024, να δημιουργήσει μια υπουργική υπηρεσία για την Τεχνητή Νοημοσύνη στον τομέα της άμυνας (AMIAD), αν και αυτή άρχισε να λειτουργεί μόλις δύο μήνες αργότερα. Η υπηρεσία έθεσε ένα σαφές όριο: να μην ανατίθεται ποτέ σε σύστημα ΤΝ ενός όπλου η δυνατότητα να επιλέγει αν θα αφαιρέσει μια ανθρώπινη ζωή.
Αντιθέτως, το Πεντάγωνο, το οποίο δεν ακολουθεί την ίδια δεοντολογία, μόλις δημιούργησε το «Σχέδιο Meridian» [1]. Μετά τη σύγκρουσή του με την εταιρεία Anthropic σχετικά με τους περιορισμούς που εκείνη ήθελε να επιβάλει στη χρήση του συστήματος ΤΝ της, του Claude, το Πεντάγωνο δεν επιθυμεί να λογοδοτεί σε κανέναν. Ανέθεσε, λοιπόν, στον Ίλον Μασκ και στον Πάλμερ Λάκι, δημιουργό των συσκευών εικονικής πραγματικότητας, να σχεδιάσουν τις επόμενες εξελίξεις.
Έχουν καταγραφεί αρκετές περιπτώσεις παραπληροφόρησης. Όλες οδήγησαν σε καταστροφές, παρότι μπορούσαν εύκολα να είχαν αποφευχθεί. Σε κάθε περίπτωση, οι υπεύθυνοι εμπιστεύτηκαν την ΤΝ σε τέτοιον βαθμό, ώστε να τηn ρωτήσουν για πράγματα που δεν ήταν δυνατόν να γνωρίζει.
Το εντυπωσιακό είναι ότι πρόσωπα με πολύ υψηλές θέσεις, τα οποία δεν εμπιστεύονταν ιδιαίτερα τη δική τους κρίση, χειραγωγήθηκαν εύκολα από συστήματα ΤΝ. Αντιθέτως, οι άνθρωποι που έχουν «τα πόδια τους στη γη» γίνονται αμέσως δύσπιστοι όταν ένα σύστημα ΤΝ τούς σερβίρει ανοησίες.
• Κατά τη διάρκεια της ισραηλινής απάντησης στην επιχείρηση «Καταιγίδα του Αλ-Άκσα» (7 Οκτωβρίου 2023), οι Ισραηλινές Αμυντικές Δυνάμεις (IDF) χρησιμοποίησαν συστήματα ΤΝ για να προσδιορίσουν τους στόχους των βομβαρδισμών τους. Τα συστήματα ρυθμίστηκαν έτσι ώστε να θεωρούν αμελητέες τις παράπλευρες απώλειες. Αρχικά, η ρύθμιση των συστημάτων ΤΝ δεν επέτρεπε να διακινδυνεύουν περισσότερες από δύο απώλειες αμάχων για κάθε καταστροφή στόχου. Στη συνέχεια, όμως, το όριο αυτό αυξήθηκε γρήγορα, ώσπου τα συστήματα ΤΝ έπαψαν πλέον να το λαμβάνουν υπόψη.
Αυτή η αλλαγή στον τρόπο χρήσης αποτυπώθηκε και στην αλλαγή του συστήματος ΤΝ. Από το Habsora περάσαμε στο Lavender. Στόχος δεν ήταν πλέον η εκτίμηση των πιθανών παράπλευρων απωλειών, αλλά η επικέντρωση στους 37.000 φερόμενους ως μαχητές της Χαμάς και της Ισλαμικής Τζιχάντ.
Οι αξιωματικοί που ενέκριναν τα πλήγματα ενδιαφέρονταν αποκλειστικά να εξακριβώσουν αν οι στόχοι ήταν πράγματι μέλη των παλαιστινιακών οργανώσεων. Δεν διέπραξαν γενοκτονία εκ προθέσεως. Απλώς άφησαν τα συστήματα ΤΝ να την πραγματοποιήσουν, χωρίς καν να το αντιληφθούν. Όταν συνειδητοποίησαν τι συνέβαινε, ήταν ήδη πολύ αργά [2].
Αυτό που διακρίνει, άλλωστε, έναν πολιτισμένο στρατό από μια ομάδα βαρβάρων είναι η μέριμνα για την προστασία των αμάχων. Ασφαλώς, μέλη της ισραηλινής κυβέρνησης επαναλάμβαναν στους στρατιωτικούς ότι όλοι οι Παλαιστίνιοι είναι τρομοκράτες. Ωστόσο, η γενικευμένη αγριότητα δεν τους απάλλασσε από τις ευθύνες τους. Όσο σοκαριστικό κι αν ακούγεται, διέπραξαν γενοκτονία χωρίς να το αντιλαμβάνονται.
Σε αυτές τις περιπτώσεις, δεν υπάρχει σφάλμα ούτε των συστημάτων ΤΝ ούτε των χειριστών τους. Το έγκλημα διαπράχθηκε λόγω έλλειψης επίγνωσης. Σύμφωνα με δημοσιογραφικές έρευνες, φαίνεται ότι όσο νεότεροι και λιγότερο έμπειροι ήταν οι αξιωματικοί, τόσο ευκολότερα έχαναν την επαφή με την πραγματικότητα και προκαλούσαν τη σφαγή αμάχων.
• Κατά τη διάρκεια του «Πολέμου των 12 Ημερών» (13–24 Ιουνίου 2025), οι Δυτικοί απευθύνθηκαν στον Διεθνή Οργανισμό Ατομικής Ενέργειας (ΔΟΑΕ) για να πληροφορηθούν την πορεία του πυρηνικού προγράμματος του Ιράν. Ο γενικός διευθυντής του, Ραφαέλ Γκρόσι, συμβουλεύτηκε τότε την εκδοχή του συστήματος Mosaic που βασίζεται στην ΤΝ και έχει αναπτύξει η εταιρεία Databricks. Το σύστημα τον διαβεβαίωσε ότι η Τεχεράνη βρισκόταν ξαφνικά στα πρόθυρα της κατασκευής ατομικής βόμβας — μια εκτίμηση που αμφισβητήθηκε έντονα από τους ίδιους τους επιθεωρητές του Οργανισμού [3]. Οι απερίσκεπτες δηλώσεις του κ. Γκρόσι παραλίγο να προκαλέσουν πυρηνική απάντηση από τις Ηνωμένες Πολιτείες.
Επικεφαλής της Databricks είναι ο Ιρανοσουηδοαμερικανός Αλί Γκόντσι. Αν και δεν ασχολείται με την πολιτική, είναι μέλος του Israel Collaboration Network (ICON), ενός δικτύου ειδικών πληροφορικής. Την εγκατάσταση της έκδοσης του Mosaic στη Βιέννη, για λογαριασμό του ΔΟΑΕ, ανέλαβε ομάδα Ισραηλινών μηχανικών.
Το περιστατικό αυτό επιδέχεται δύο ερμηνείες. Είτε θεωρούμε ότι ο Ραφαέλ Γκρόσι χειραγωγήθηκε από τη Μοσάντ είτε διαπιστώνουμε ότι ήταν αρκετά ευεπηρέαστος ώστε να εμπιστευτεί μια μηχανή περισσότερο από τους δικούς του ειδικούς.
• Τον Δεκέμβριο του 2025, ο Ντόναλντ Τραμπ ρώτησε το Grok, το σύστημα ΤΝ του Ίλον Μασκ, πώς θα αντιδρούσαν οι Βενεζουελάνοι σε μια ενδεχόμενη απαγωγή του προέδρου Νικολάς Μαδούρο. Επρόκειτο για σχέδιο επιχείρησης που είχε συζητηθεί από τη CIA και τη Διοίκηση Νότου των ΗΠΑ (SouthCom). Σύμφωνα με το περιοδικό Time, η απάντηση του συστήματος ΤΝ ήταν ότι ο λαός της Βενεζουέλας θα χαιρόταν με την εξέλιξη αυτή. Ο Ντόναλντ Τραμπ φέρεται να έδωσε το πράσινο φως για την επιχείρηση βασιζόμενος αποκλειστικά σε αυτή την εκτίμηση [4].
Γιατί να ζητήσει κανείς άλλες γνώμες, όταν ένα σύστημα ΤΝ είναι σε θέση να συνθέσει τη σκέψη όλων; Πολύ απλά, επειδή ένα σύστημα ΤΝ δεν κάνει τίποτε άλλο από το να διατυπώνει τον μέσο όρο της σκέψης που σαρώνει. Και κανένας μέσος όρος δεν αποτελεί την αλήθεια. Τα συστήματα ΤΝ δεν είναι παρά αλγόριθμοι. Δεν σκέφτονται· περιορίζονται στην αναδιατύπωση της σκέψης που θέλουμε να διερευνήσουμε. Ένας άνθρωπος που γνωρίζει τον πληθυσμό της Βενεζουέλας θα απαντούσε έχοντας κατά νου την πολυπλοκότητα της κουλτούρας της χώρας. Ασφαλώς, δεν θα ενέκρινε ούτε θα απέρριπτε απλώς το ερώτημα του προέδρου Τραμπ, αλλά θα τόνιζε ότι οι αντιδράσεις των Βενεζουελάνων θα εξαρτώνταν από την κοινωνική και περιφερειακή τους προέλευση, καθώς και από τις περιστάσεις του γεγονότος.
• Πρόσφατα, ο Ρώσος πρόεδρος Βλαντίμιρ Πούτιν εξήγησε ότι τα προβλήματα που εμφανίζονται με τα συστήματα ΤΝ δεν είναι καινούργια. Υπήρχαν ήδη και με πολύ λιγότερο εξελιγμένες μηχανές.
Στο πλαίσιο της Λέσχης Βαλντάι, αφηγήθηκε ότι, κατά τη διάρκεια του Ψυχρού Πολέμου, το 1983, οι σοβιετικοί δορυφόροι είχαν εντοπίσει την εκτόξευση πέντε πυρηνικών πυραύλων από τις Ηνωμένες Πολιτείες. Ο συνταγματάρχης Στανισλάβ Πετρόφ, ο οποίος ήταν υπεύθυνος για την απόκριση της Σοβιετικής Ένωσης, αμφισβήτησε αμέσως όσα του έδειχναν οι μηχανές. Έκανε πρώτα τους απαραίτητους ελέγχους προτού διατάξει αντίποινα. Και πολύ σωστά έπραξε. Οι μηχανές είχαν κάνει λάθος: οι ΗΠΑ δεν είχαν εξαπολύσει πυρηνικό πόλεμο και ο ίδιος δεν διέταξε ανταπόδοση [5].
Πράγματι, αυτό είναι το ίδιο πρόβλημα. Εξακολουθούμε να είμαστε οι κύριοι των μηχανών, αλλά η απροσεξία μας, η ανικανότητά μας ή η αλαζονεία μας μπορούν να μας οδηγήσουν σε μικρά σφάλματα, τα οποία, σε ελάχιστο χρονικό διάστημα, θα έχουν τρομακτικές συνέπειες.
Στην πραγματικότητα, κανείς δεν μπορεί να χειραγωγηθεί από ένα σύστημα ΤΝ, απλούστατα επειδή αυτό δεν μπορεί να έχει πρόθεση ή δική του βούληση. Ωστόσο, όλοι κινδυνεύουμε, από οκνηρία, να δώσουμε αξιοπιστία σε όσα μας λέει μια μηχανή που δεν έχει ρυθμιστεί επαρκώς.
Κριστιάν Άκκυριά
[1] «Memorandum Commissioning of Project Meridian: The Future of Warfar», Department of War, September 30, 2026.
[2] « A mass assassination factory’ : Inside Israel’s calculated bombing of Gaza » and « ‘Lavender’ : The AI machine directing Israel’s bombing spree in Gaza », Yuval Abraham, +972Magazine, November 30, 2023 and April 3, 2024.
[3] « L’Argentin Rafael Grossi, directeur de l’AIEA, a failli déclencher une guerre nucléaire », par Alfredo Jalife-Rahme, Traduction Maria Poumier, La Jornada (Mexique), Réseau Voltaire, 28 juin 2025.
[4] «What Trump Has Built», Eric Cortellessa, Time Magazine, October 11, 2026.
[5] «Meeting of Valdai Discussion Club», Kremlin, October 1, 2026.
Les articles de cet auteur
Envoyer un message
