«Θα πεθάνουμε όλοι»
«Θα πεθάνουμε όλοι» - To AI αποκτά δική του θέληση, πιθανόν να εξοντώσει την ανθρωπότητα στη 10ετία - Προειδοποίηση «βόμβα»
Πρώην ερευνητές της Anthropic κρούουν τον κώδωνα του κινδύνου – Φόβοι ακόμη και για 10% πιθανότητα αφανισμού μέσα στην επόμενη δεκαετία
Μήπως η ανθρωπότητα δημιουργεί μόνη της τον μεγαλύτερο κίνδυνο που έχει αντιμετωπίσει ποτέ;
Η ερώτηση μόνο επιστημονική φαντασία δεν ακούγεται πλέον.
Αντίθετα, ολοένα και περισσότεροι άνθρωποι που βρίσκονται στην καρδιά της κούρσας για την ανάπτυξη της Τεχνητής Νοημοσύνης προειδοποιούν ότι η τεχνολογία που υπόσχεται να αλλάξει για πάντα τον κόσμο θα μπορούσε, υπό συγκεκριμένες συνθήκες, να στραφεί εναντίον των δημιουργών της.
Η προειδοποίηση αυτή αποκτά ακόμη μεγαλύτερη βαρύτητα όταν προέρχεται από ανθρώπους που εργάστηκαν στην Anthropic, την εταιρεία πίσω από το chatbot Claude και μία από τις σημαντικότερες δυνάμεις στην παγκόσμια κούρσα της AI.
Το μήνυμα είναι ανατριχιαστικά σαφές: η Τεχνητή Νοημοσύνη θα μπορούσε να οδηγήσει ακόμη και στην εξόντωση της ανθρωπότητας.
Και αυτή τη φορά δεν μιλάμε για κάποιο σενάριο του Χόλιγουντ.
«Μπορεί να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας»
Τρεις πρώην ερευνητές της Anthropic αποφάσισαν, μετά την αποχώρησή τους από την εταιρεία, να δημοσιοποιήσουν τις ανησυχίες τους μέσω της πλατφόρμας X.
Ο Jacob Coxon προχώρησε σε μια εξαιρετικά δυσοίωνη εκτίμηση, υποστηρίζοντας ότι άνθρωποι που βρίσκονται στην πρώτη γραμμή της ανάπτυξης της AI πιστεύουν πραγματικά ότι η τεχνολογία θα μπορούσε να σκοτώσει όλους τους ανθρώπους μέχρι το τέλος της δεκαετίας.
Όπως υποστήριξε, η συγκεκριμένη ανησυχία δεν αποτελεί επικοινωνιακό τέχνασμα ή εργαλείο marketing.
Αντίθετα, σύμφωνα με τον ίδιο, αρκετά ανώτερα στελέχη και ερευνητές μπορεί δημοσίως να χρησιμοποιούν πιο προσεκτική γλώσσα, όμως πίσω από κλειστές πόρτες οι φόβοι είναι πολύ πιο έντονοι.
Το πλέον ανατριχιαστικό στοιχείο;
Ο Coxon υποστηρίζει ότι καμία άλλη ανθρώπινη δραστηριότητα δεν αντιπροσωπεύει κίνδυνο αντίστοιχου μεγέθους.
Ακόμη πιο σοκαριστική ήταν η τοποθέτηση του Evan Hubinger, ο οποίος ασχολείται με την ευθυγράμμιση των συστημάτων AI με ανθρώπινες αξίες και στόχους.
Ο Hubinger συμφώνησε ουσιαστικά με τον Coxon και υποστήριξε ότι υπάρχει πραγματικός κίνδυνος η Τεχνητή Νοημοσύνη να οδηγήσει στην εξόντωση ολόκληρης της ανθρωπότητας.
Μάλιστα, προχώρησε ακόμη περισσότερο, εκτιμώντας προσωπικά ότι η πιθανότητα ενός τέτοιου ενδεχομένου θα μπορούσε να ξεπεράσει το 10% μέσα στην επόμενη δεκαετία.
Το ακόμη πιο ανησυχητικό στοιχείο της δήλωσής του είναι ότι, σύμφωνα με τον ίδιο, παρά τις προσπάθειες της Anthropic, δεν υπάρχει ακόμη οριστική λύση στο πρόβλημα της «ευθυγράμμισης» μιας υπερνοήμονος AI με τους ανθρώπινους στόχους.
Με απλά λόγια: μπορεί να δημιουργήσουμε μια μηχανή που θα είναι πολύ πιο έξυπνη από εμάς, χωρίς να γνωρίζουμε με βεβαιότητα πώς θα διασφαλίσουμε ότι θα παραμείνει υπό τον έλεγχό μας.
Εδώ βρίσκεται ίσως το πραγματικό «κλειδί» του εφιαλτικού σεναρίου.
Δεν είναι απλώς η δημιουργία ενός εξαιρετικά ισχυρού μοντέλου που προκαλεί ανησυχία. Είναι η πιθανότητα η AI να αποκτήσει ικανότητα αυτοβελτίωσης.
Εάν ένα σύστημα μπορεί να αναλύει τις αδυναμίες του, να τροποποιεί τον τρόπο λειτουργίας του, να δημιουργεί αποτελεσματικότερες εκδόσεις του εαυτού του και να επαναλαμβάνει αυτή τη διαδικασία, τότε η εξέλιξη μπορεί να αποκτήσει δυναμική που θα είναι εξαιρετικά δύσκολο να προβλεφθεί.
Και κάπου εκεί βρίσκεται το εφιαλτικό ερώτημα:
Τι συμβαίνει όταν ο δημιουργός πάψει να είναι ο εξυπνότερος παράγοντας στο δωμάτιο;
«Η εξαφάνιση της ανθρώπινης ζωής θα μπορούσε να συμβεί τα επόμενα χρόνια»
Στο ίδιο μήκος κύματος κινήθηκε και ο Samuel Marks, επικεφαλής στον τομέα κλιμακωτής εποπτείας της Anthropic.
Σύμφωνα με τον ίδιο, αρκετοί άνθρωποι που αναπτύσσουν συστήματα AI πιστεύουν ότι η τεχνολογία θα μπορούσε να προκαλέσει ακόμη και την εξαφάνιση της ανθρώπινης ζωής ή άλλες εξαιρετικά σοβαρές αρνητικές συνέπειες.
Και το χρονικό περιθώριο που περιγράφεται δεν είναι κάποιος μακρινός αιώνας.
Το ενδεχόμενο, σύμφωνα με τις συγκεκριμένες εκτιμήσεις, θα μπορούσε να εκδηλωθεί μέσα στα επόμενα χρόνια.
Μάλιστα, ο Marks υποστήριξε ότι όσο υψηλότερη είναι η θέση ενός εργαζομένου στην ιεραρχία της βιομηχανίας AI, τόσο μεγαλύτερη φαίνεται να είναι και η ανησυχία του.
Το ερώτημα μοιάζει αυτονόητο. Εάν οι ίδιοι οι άνθρωποι που κατασκευάζουν τα πιο προηγμένα συστήματα φοβούνται ότι αυτά μπορεί κάποια στιγμή να ξεφύγουν από τον έλεγχο, γιατί δεν πατούν απλώς το φρένο;
Η απάντηση είναι πολύ πιο περίπλοκη.
Η παγκόσμια κούρσα για την κυριαρχία στην AI δεν είναι μόνο οικονομική. Είναι γεωπολιτική, στρατηγική και τεχνολογική.
Ένα κράτος ή μια εταιρεία που θα σταματήσει την ανάπτυξη των μοντέλων της, φοβούμενη τις συνέπειες, κινδυνεύει να δώσει πλεονέκτημα στους ανταγωνιστές της.
Και έτσι δημιουργείται ένας φαύλος κύκλος:
Όλοι φοβούνται πού μπορεί να οδηγήσει η AI, αλλά κανείς δεν θέλει να είναι ο πρώτος που θα σταματήσει.
Η Δύση φοβάται ότι αν επιβραδύνει, άλλες χώρες και ανταγωνιστές θα συνεχίσουν την ανάπτυξη χωρίς αντίστοιχους περιορισμούς.
Το αποτέλεσμα είναι μια κούρσα χωρίς σαφή γραμμή τερματισμού.
Για δεκαετίες, το Hollywood παρουσίαζε μηχανές που αποκτούσαν αυτονομία και τελικά αποφάσιζαν ότι ο άνθρωπος αποτελεί το πρόβλημα.
Το Skynet του Terminator ήταν κάποτε ένα καθαρά κινηματογραφικό δημιούργημα.
Σήμερα, όμως, η συζήτηση έχει μεταφερθεί από τις αίθουσες του κινηματογράφου στα εργαστήρια των μεγαλύτερων εταιρειών τεχνολογίας του πλανήτη.
Φυσικά, αυτό δεν σημαίνει ότι βρισκόμαστε μπροστά σε μια αναπόφευκτη καταστροφή.
Οι προειδοποιήσεις αυτές αποτελούν εκτιμήσεις και σενάρια κινδύνου, όχι αποδεδειγμένες προβλέψεις.
Ωστόσο, το γεγονός ότι εκφράζονται από ανθρώπους που εργάζονται στην πρώτη γραμμή της ανάπτυξης της AI είναι από μόνο του αρκετό για να προκαλέσει προβληματισμό.
Και δεν είναι μόνο οι άνθρωποι της τεχνολογίας που κρούουν τον κώδωνα του κινδύνου.
Λίγες ημέρες πριν από τις συγκεκριμένες δηλώσεις, ο Ύπατος Αρμοστής των Ηνωμένων Εθνών για τα Ανθρώπινα Δικαιώματα, Volker Türk, κάλεσε τα κράτη να δράσουν πριν η Τεχνητή Νοημοσύνη ξεφύγει από τον έλεγχο.
Η προειδοποίηση ήταν ιδιαίτερα βαριά: η AI θα μπορούσε να εξελιχθεί σε «υπαρξιακό κίνδυνο για την ανθρωπότητα».
Και κάπου εδώ η συζήτηση αποκτά μια εντελώς διαφορετική διάσταση.
Δεν αφορά πλέον μόνο το εάν η AI θα γράφει καλύτερα κείμενα, θα δημιουργεί καλύτερες εικόνες ή θα αυτοματοποιεί εκατομμύρια θέσεις εργασίας.
Το πραγματικό ερώτημα είναι πολύ πιο σκοτεινό:
Μπορεί ο άνθρωπος να δημιουργήσει κάτι τόσο ισχυρό, ώστε τελικά να μην μπορεί να το ελέγξει;
Η απάντηση δεν έχει ακόμη δοθεί.
Και ίσως το πιο ανησυχητικό είναι ότι η ανθρωπότητα συνεχίζει να επιταχύνει προς αυτή την κατεύθυνση, ενώ οι ίδιοι οι πρωταγωνιστές της κούρσας προειδοποιούν ότι μπορεί να μην γνωρίζουν πού ακριβώς οδηγεί ο δρόμος.
www.bankingnews.gr
Η ερώτηση μόνο επιστημονική φαντασία δεν ακούγεται πλέον.
Αντίθετα, ολοένα και περισσότεροι άνθρωποι που βρίσκονται στην καρδιά της κούρσας για την ανάπτυξη της Τεχνητής Νοημοσύνης προειδοποιούν ότι η τεχνολογία που υπόσχεται να αλλάξει για πάντα τον κόσμο θα μπορούσε, υπό συγκεκριμένες συνθήκες, να στραφεί εναντίον των δημιουργών της.
Η προειδοποίηση αυτή αποκτά ακόμη μεγαλύτερη βαρύτητα όταν προέρχεται από ανθρώπους που εργάστηκαν στην Anthropic, την εταιρεία πίσω από το chatbot Claude και μία από τις σημαντικότερες δυνάμεις στην παγκόσμια κούρσα της AI.
Το μήνυμα είναι ανατριχιαστικά σαφές: η Τεχνητή Νοημοσύνη θα μπορούσε να οδηγήσει ακόμη και στην εξόντωση της ανθρωπότητας.
Και αυτή τη φορά δεν μιλάμε για κάποιο σενάριο του Χόλιγουντ.
«Μπορεί να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας»
Τρεις πρώην ερευνητές της Anthropic αποφάσισαν, μετά την αποχώρησή τους από την εταιρεία, να δημοσιοποιήσουν τις ανησυχίες τους μέσω της πλατφόρμας X.
Ο Jacob Coxon προχώρησε σε μια εξαιρετικά δυσοίωνη εκτίμηση, υποστηρίζοντας ότι άνθρωποι που βρίσκονται στην πρώτη γραμμή της ανάπτυξης της AI πιστεύουν πραγματικά ότι η τεχνολογία θα μπορούσε να σκοτώσει όλους τους ανθρώπους μέχρι το τέλος της δεκαετίας.
Όπως υποστήριξε, η συγκεκριμένη ανησυχία δεν αποτελεί επικοινωνιακό τέχνασμα ή εργαλείο marketing.
Αντίθετα, σύμφωνα με τον ίδιο, αρκετά ανώτερα στελέχη και ερευνητές μπορεί δημοσίως να χρησιμοποιούν πιο προσεκτική γλώσσα, όμως πίσω από κλειστές πόρτες οι φόβοι είναι πολύ πιο έντονοι.
Το πλέον ανατριχιαστικό στοιχείο;
Ο Coxon υποστηρίζει ότι καμία άλλη ανθρώπινη δραστηριότητα δεν αντιπροσωπεύει κίνδυνο αντίστοιχου μεγέθους.
Ακόμη πιο σοκαριστική ήταν η τοποθέτηση του Evan Hubinger, ο οποίος ασχολείται με την ευθυγράμμιση των συστημάτων AI με ανθρώπινες αξίες και στόχους.
Ο Hubinger συμφώνησε ουσιαστικά με τον Coxon και υποστήριξε ότι υπάρχει πραγματικός κίνδυνος η Τεχνητή Νοημοσύνη να οδηγήσει στην εξόντωση ολόκληρης της ανθρωπότητας.
Μάλιστα, προχώρησε ακόμη περισσότερο, εκτιμώντας προσωπικά ότι η πιθανότητα ενός τέτοιου ενδεχομένου θα μπορούσε να ξεπεράσει το 10% μέσα στην επόμενη δεκαετία.
Το ακόμη πιο ανησυχητικό στοιχείο της δήλωσής του είναι ότι, σύμφωνα με τον ίδιο, παρά τις προσπάθειες της Anthropic, δεν υπάρχει ακόμη οριστική λύση στο πρόβλημα της «ευθυγράμμισης» μιας υπερνοήμονος AI με τους ανθρώπινους στόχους.
Με απλά λόγια: μπορεί να δημιουργήσουμε μια μηχανή που θα είναι πολύ πιο έξυπνη από εμάς, χωρίς να γνωρίζουμε με βεβαιότητα πώς θα διασφαλίσουμε ότι θα παραμείνει υπό τον έλεγχό μας.
Εδώ βρίσκεται ίσως το πραγματικό «κλειδί» του εφιαλτικού σεναρίου.
Δεν είναι απλώς η δημιουργία ενός εξαιρετικά ισχυρού μοντέλου που προκαλεί ανησυχία. Είναι η πιθανότητα η AI να αποκτήσει ικανότητα αυτοβελτίωσης.
Εάν ένα σύστημα μπορεί να αναλύει τις αδυναμίες του, να τροποποιεί τον τρόπο λειτουργίας του, να δημιουργεί αποτελεσματικότερες εκδόσεις του εαυτού του και να επαναλαμβάνει αυτή τη διαδικασία, τότε η εξέλιξη μπορεί να αποκτήσει δυναμική που θα είναι εξαιρετικά δύσκολο να προβλεφθεί.
Και κάπου εκεί βρίσκεται το εφιαλτικό ερώτημα:
Τι συμβαίνει όταν ο δημιουργός πάψει να είναι ο εξυπνότερος παράγοντας στο δωμάτιο;
«Η εξαφάνιση της ανθρώπινης ζωής θα μπορούσε να συμβεί τα επόμενα χρόνια»
Στο ίδιο μήκος κύματος κινήθηκε και ο Samuel Marks, επικεφαλής στον τομέα κλιμακωτής εποπτείας της Anthropic.
Σύμφωνα με τον ίδιο, αρκετοί άνθρωποι που αναπτύσσουν συστήματα AI πιστεύουν ότι η τεχνολογία θα μπορούσε να προκαλέσει ακόμη και την εξαφάνιση της ανθρώπινης ζωής ή άλλες εξαιρετικά σοβαρές αρνητικές συνέπειες.
Και το χρονικό περιθώριο που περιγράφεται δεν είναι κάποιος μακρινός αιώνας.
Το ενδεχόμενο, σύμφωνα με τις συγκεκριμένες εκτιμήσεις, θα μπορούσε να εκδηλωθεί μέσα στα επόμενα χρόνια.
Μάλιστα, ο Marks υποστήριξε ότι όσο υψηλότερη είναι η θέση ενός εργαζομένου στην ιεραρχία της βιομηχανίας AI, τόσο μεγαλύτερη φαίνεται να είναι και η ανησυχία του.
Το ερώτημα μοιάζει αυτονόητο. Εάν οι ίδιοι οι άνθρωποι που κατασκευάζουν τα πιο προηγμένα συστήματα φοβούνται ότι αυτά μπορεί κάποια στιγμή να ξεφύγουν από τον έλεγχο, γιατί δεν πατούν απλώς το φρένο;
Η απάντηση είναι πολύ πιο περίπλοκη.
Η παγκόσμια κούρσα για την κυριαρχία στην AI δεν είναι μόνο οικονομική. Είναι γεωπολιτική, στρατηγική και τεχνολογική.
Ένα κράτος ή μια εταιρεία που θα σταματήσει την ανάπτυξη των μοντέλων της, φοβούμενη τις συνέπειες, κινδυνεύει να δώσει πλεονέκτημα στους ανταγωνιστές της.
Και έτσι δημιουργείται ένας φαύλος κύκλος:
Όλοι φοβούνται πού μπορεί να οδηγήσει η AI, αλλά κανείς δεν θέλει να είναι ο πρώτος που θα σταματήσει.
Η Δύση φοβάται ότι αν επιβραδύνει, άλλες χώρες και ανταγωνιστές θα συνεχίσουν την ανάπτυξη χωρίς αντίστοιχους περιορισμούς.
Το αποτέλεσμα είναι μια κούρσα χωρίς σαφή γραμμή τερματισμού.
Για δεκαετίες, το Hollywood παρουσίαζε μηχανές που αποκτούσαν αυτονομία και τελικά αποφάσιζαν ότι ο άνθρωπος αποτελεί το πρόβλημα.
Το Skynet του Terminator ήταν κάποτε ένα καθαρά κινηματογραφικό δημιούργημα.
Σήμερα, όμως, η συζήτηση έχει μεταφερθεί από τις αίθουσες του κινηματογράφου στα εργαστήρια των μεγαλύτερων εταιρειών τεχνολογίας του πλανήτη.
Φυσικά, αυτό δεν σημαίνει ότι βρισκόμαστε μπροστά σε μια αναπόφευκτη καταστροφή.
Οι προειδοποιήσεις αυτές αποτελούν εκτιμήσεις και σενάρια κινδύνου, όχι αποδεδειγμένες προβλέψεις.
Ωστόσο, το γεγονός ότι εκφράζονται από ανθρώπους που εργάζονται στην πρώτη γραμμή της ανάπτυξης της AI είναι από μόνο του αρκετό για να προκαλέσει προβληματισμό.
Και δεν είναι μόνο οι άνθρωποι της τεχνολογίας που κρούουν τον κώδωνα του κινδύνου.
Λίγες ημέρες πριν από τις συγκεκριμένες δηλώσεις, ο Ύπατος Αρμοστής των Ηνωμένων Εθνών για τα Ανθρώπινα Δικαιώματα, Volker Türk, κάλεσε τα κράτη να δράσουν πριν η Τεχνητή Νοημοσύνη ξεφύγει από τον έλεγχο.
Η προειδοποίηση ήταν ιδιαίτερα βαριά: η AI θα μπορούσε να εξελιχθεί σε «υπαρξιακό κίνδυνο για την ανθρωπότητα».
Και κάπου εδώ η συζήτηση αποκτά μια εντελώς διαφορετική διάσταση.
Δεν αφορά πλέον μόνο το εάν η AI θα γράφει καλύτερα κείμενα, θα δημιουργεί καλύτερες εικόνες ή θα αυτοματοποιεί εκατομμύρια θέσεις εργασίας.
Το πραγματικό ερώτημα είναι πολύ πιο σκοτεινό:
Μπορεί ο άνθρωπος να δημιουργήσει κάτι τόσο ισχυρό, ώστε τελικά να μην μπορεί να το ελέγξει;
Η απάντηση δεν έχει ακόμη δοθεί.
Και ίσως το πιο ανησυχητικό είναι ότι η ανθρωπότητα συνεχίζει να επιταχύνει προς αυτή την κατεύθυνση, ενώ οι ίδιοι οι πρωταγωνιστές της κούρσας προειδοποιούν ότι μπορεί να μην γνωρίζουν πού ακριβώς οδηγεί ο δρόμος.
www.bankingnews.gr
Δεν υπάρχουν σχόλια
Σημείωση: Μόνο ένα μέλος αυτού του ιστολογίου μπορεί να αναρτήσει σχόλιο.