Ο Τζέικομπ Κόξον, ο ερευνητής της Anthropic που παραιτήθηκε πρόσφατα με τις προειδοποιήσεις του να γίνονται viral, μίλησε στο BBC για τις εξελίξεις γύρω από την Τεχνητή Νοημοσύνη (AI).
Oρισμένα πρόσωπα του κλάδου έχουν υπαινιχθεί ότι τα σχόλια σχετικά με τους κινδύνους και τη δύναμη της Τεχνητής Νοημοσύνης ενδέχεται να έχουν ως στόχο να δημιουργήσουν παραπάνω «θόρυβο» για αυτή
Οι άνθρωποι που ασχολούνται με την τεχνολογία αυτή είναι «πραγματικά τρομαγμένοι» από τον ρυθμό της εξέλιξής της και από το τι θα μπορούσε να σημαίνει αυτό για την ανθρωπότητα.
«Πιστεύω ότι, αν δεν επιβραδύνουμε τον τρέχοντα ρυθμό προόδου, υπάρχει μεγάλη πιθανότητα να πεθάνουμε όλοι στο άμεσο μέλλον», είπε χαρακτηριστικά.
Ο πρώην προϊστάμενος του 27χρονου, ο διευθυντής της Anthropic Ντάριο Αμοντέι, ζήτησε επίσης πρόσφατα να επιβραδυνθεί η ανάπτυξη της Τεχνητής Νοημοσύνης — αν και ορισμένοι έχουν αμφισβητήσει τα κίνητρα πίσω από αυτή την κίνηση.
Οι επικεφαλής δύο ανταγωνιστικών εταιρειών Τεχνητής Νοημοσύνης, ο Σαμ Άλτμαν της OpenAI και ο Έλον Μασκ της xAI, δήλωσαν και οι δύο ότι συμφωνούν με την πρόταση του Αμοντέι για επιβράδυνση και ρύθμιση σε επίπεδο κλάδου, καθώς και για ανεξάρτητη παρακολούθηση της ανάπτυξης μοντέλων Τεχνητής Νοημοσύνης.
Ο Αμοντέι έγραψε σε ένα άρθρο το Σάββατο ότι η ανάπτυξη της τεχνολογίας δεν αμφισβητείται, αλλά οι κίνδυνοι που συνδέονται με αυτήν είναι «σοβαροί» και ότι πρέπει να δοθεί χρόνος στις εταιρείες και τις κυβερνήσεις για να τους αντιμετωπίσουν.
Ο Κόξον – ο οποίος εργάστηκε στην OpenAI πριν προσχωρήσει στην Anthropic – χαιρέτισε την πρόταση για επιβράδυνση, αλλά ανέφερε ότι αυτή θα πρέπει να συντονιστεί με την Κίνα, προκειμένου να αποφευχθεί «μια κούρσα σε διεθνή κλίμακα».
«Οι άνθρωποι που εργάζονται σε αυτές τις εταιρείες ζητούν ρύθμιση με απόλυτη σοβαρότητα, επειδή νιώθουν παγιδευμένοι σε μια κούρσα. Και φοβούνται τις συνέπειες αυτής της κούρσας», δήλωσε στην εκπομπή «Sunday with Laura Kuenssberg».
Πώς θα ήταν μια «Αποκάλυψη» της AI;
Η πιο δύσκολη ερώτηση που πρέπει να απαντηθεί, σύμφωνα με τον Κόξον, ήταν πώς θα έμοιαζε μια «Αποκάλυψη» της Τεχνητής Νοημοσύνης.
Ένας από τους κινδύνους που επισημάνθηκαν στις δηλώσεις του Αμοντέι ήταν η πιθανότητα ένα σμήνος από bots να λειτουργήσει ως υπερυπολογιστής και να καταλάβει τον έλεγχο του διαδικτύου.
Ο Κόξον δήλωσε ότι αυτό το σενάριο θα μπορούσε να γίνει πραγματικότητα σε διάστημα από έξι μήνες έως ένα χρόνο.
Σε απάντηση στην αποχώρηση του Coxon, ένας εκπρόσωπος της Anthropic δήλωσε στο BBC News: «Πάντα ήμασταν σαφείς ως προς το ότι η Τεχνητή Νοημοσύνη θα φέρει τόσο τεράστια οφέλη όσο και πρωτοφανείς κινδύνους».
«Για να αντιμετωπίσουμε αυτούς τους κινδύνους, συνεχίζουμε να αναπτύσσουμε μοντέλα με μερικά από τα ισχυρότερα μέτρα προστασίας στον κλάδο», σημείωσε.
Η εταιρεία έχει πρωτοστατήσει στη μελέτη του τρόπου λειτουργίας των μοντέλων Τεχνητής Νοημοσύνης, πρόσθεσε ο εκπρόσωπος.
Ήταν η πρώτη που δημοσίευσε ένα πλαίσιο για τον μετριασμό των κινδύνων που ενέχει η ανάπτυξή τους — και επίσης δοκιμάζει «εντατικά» τα μοντέλα της και δημοσιεύει τα ευρήματα, προκειμένου να διευκολύνει τον έλεγχο και να αποτρέψει περιστατικά «αναντιστοιχίας της Τεχνητής Νοημοσύνης».
«Αυτή η εργασία είναι επίσης ο λόγος για τον οποίο πιστεύουμε ότι θα ήταν προς όφελος του κόσμου αν ο κλάδος υιοθετούσε έναν νόμιμο και επαληθεύσιμο τρόπο συνεργασίας, ώστε να ρυθμίζεται ο ρυθμός με τον οποίο κυκλοφορούμε ισχυρά μοντέλα», δήλωσαν.
Τι φοβούνται οι συνάδελφοι του Κόξον
Ο Κόξον ανέφερε ότι οι συνάδελφοί του φοβούνται ότι ο κίνδυνος μπορεί να εμφανιστεί ακόμη και μέσα στα επόμενα δύο χρόνια.
Είπε ότι το προσωπικό των εταιρειών Τεχνητής Νοημοσύνης «σχεδιάζει τι θα κάνει με τη ζωή του και σκέφτεται τις επιπτώσεις της δουλειάς του», ενώ ορισμένοι «εξετάζουν το ενδεχόμενο να αγοράσουν οικόπεδο κάπου, επειδή φοβούνται τόσο πολύ την αστάθεια που θα προκαλέσει η ραγδαία πρόοδος της Τεχνητής Νοημοσύνης».
«Όλοι τους έχουν αυτό κατά νου καθημερινά, ενώ εργάζονται πάνω στην τεχνολογία αυτή», πρόσθεσε.
Ωστόσο, ο Κόξον έδειξε κάποια αισιοδοξία για το μέλλον της Τεχνητής Νοημοσύνης, δηλώνοντας στο BBC ότι οι άνθρωποι που ερευνούν την τεχνολογία αυτή «επιθυμούν ειλικρινά να δουν τα θετικά αποτελέσματα» σε τομείς όπως «η θεραπεία ασθενειών και η βελτίωση της ζωής όλων».
«Πιστεύουμε πραγματικά και ειλικρινά ότι η Τεχνητή Νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους!»
Πολλοί άλλοι στον κλάδο έχουν επίσης εκφράσει τις ανησυχίες τους μετά την ανάρτηση του Κόξον στα μέσα κοινωνικής δικτύωσης, μεταξύ των οποίων και ο επιστήμονας της Anthropic, Ίβαν Χιούμπινγκερ.
«Πιστεύουμε πραγματικά και ειλικρινά ότι η Τεχνητή Νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους! Προσωπικά, εκτιμώ ότι η πιθανότητα αυτή είναι μεγαλύτερη από 10% μέσα στην επόμενη δεκαετία», δήλωσε ο Χιούμπινγκερ.
Ο επιστήμονας της Πληροφορικής και κάτοχος του βραβείου Νόμπελ, Τζέφρι Χίντον, γνωστός ως ο «Νονός της ΤΝ», δήλωσε την Παρασκευή στο BBC ότι η πιθανότητα 10% η AI να εξοντώσει όλους τους ανθρώπους «δεν είναι παράλογη».
Εν τω μεταξύ, ο Μαρκ Γουόρνερ, διευθύνων σύμβουλος της εταιρείας Faculty που ειδικεύεται στην ασφάλεια της Τεχνητής Νοημοσύνης, δήλωσε στην εκπομπή «The World This Weekend» του BBC ότι είναι «εξαιρετικά δύσκολο να υπολογιστεί η πιθανότητα» η AI να εξοντώσει όλους τους ανθρώπους.
«Είναι όμως σημαντικό να αναγνωρίσουμε ότι αυτοί οι άνθρωποι είναι απόλυτα ειλικρινείς σε ό,τι λένε», πρόσθεσε, επισημαίνοντας ότι οι κίνδυνοι που σχετίζονται με την Tεχνητή Nοημοσύνη επισημαίνονται εδώ και χρόνια από τους επικεφαλής αρκετών εταιρειών του κλάδου.
Ο πρώην πρωθυπουργός του Ηνωμένου Βασιλείου, Ρίσι Σουνακ, ο οποίος είναι έμμισθος σύμβουλος της Anthropic, έγραψε στην εφημερίδα Sunday Times ότι και ο ίδιος ανησυχεί για τον κίνδυνο που ενέχει η Τεχνητή Νοημοσύνη για την ανθρωπότητα, παρά το γεγονός ότι γενικά διατηρεί αισιόδοξη στάση.
Τεχνητό ενδιαφέρον;
Ωστόσο, ορισμένα πρόσωπα του κλάδου έχουν υπαινιχθεί ότι τα σχόλια σχετικά με τους κινδύνους και τη δύναμη της AI ενδέχεται να έχουν ως στόχο να δημιουργήσουν παραπάνω «θόρυβο» για αυτή.
Ο διευθύνων σύμβουλος της πλατφόρμας Τεχνητής Νοημοσύνης Hugging Face, Κλεμάν Ντελάνγκ, σημείωσε στα κοινωνικά δίκτυα: «Συγγνώμη, αλλά το να ρωτάς τον Τζέικομπ (σ.σ. Κόξον) για τον κίνδυνο εξαφάνισης λόγω της Τεχνητής Νοημοσύνης είναι σαν να ρωτάς τον τεχνικό του κλιματιστικού σου για την κλιματική αλλαγή. Δεν λέω ότι είναι απαραίτητα αδιάφορο ή λάθος καθ’ εαυτό, αλλά ας βλέπουμε τα πράγματα στη σωστή τους διάσταση».
Ωστόσο, μετά τη δημοσίευση του άρθρου του Αμοντέι, ο Ντελάνγκ προσφέρθηκε να συμβάλει στις πιθανές λύσεις που πρότεινε ο επικεφαλής της Anthropic.
Εν τω μεταξύ, ο επικεφαλής της Nvidia, Τζένσεν Χουάνγκ σχολίασε επίσης τις δηλώσεις του Κόξον σε συνέδριο που διοργάνωσε η επενδυτική τράπεζα Goldman Sachs την περασμένη εβδομάδα, όπως ανέφεραν στο BBC αρκετά άτομα που συμμετείχαν στην εκδήλωση. Ανέφεραν ότι τις απέρριψε ως αναληθείς.
Ο Χουάνγκ είχε δηλώσει στο παρελθόν ότι η ιδέα ότι η Τεχνητή Νοημοσύνη «θα σήμαινε το τέλος της ανθρωπότητας» ήταν «απόλυτη ανοησία».
Και ενώ μπορεί να έχει επιχειρηματικό συμφέρον από την άνθηση της Τεχνητής Νοημοσύνης —η Nvidia κατασκευάζει τσιπ που τροφοδοτούν συστήματα Νεχνητής Νοημοσύνης—, τα σχόλιά του αντανακλούν μια αυξανόμενη αντίδραση στη Σίλικον Βάλεϊ απέναντι στις υπαρξιακές προειδοποιήσεις από νυν και πρώην υπαλλήλους.
Άλλοι επικριτές υποστηρίζουν ότι η Anthropic προσπαθεί να προκαλέσει μια ρυθμιστική πρωτοβουλία με στόχο να εμποδίσει τον ανταγωνισμό, ώστε να παραμείνει μαζί με την OpenAI ένα μονοπώλιο με δύο «παίκτες».
Σύμφωνα με πληροφορίες του BBC, η Anthropic προετοιμάζεται για μια αρχική δημόσια προσφορά μετοχών στο χρηματιστήριο, η οποία ενδέχεται να σπάσει κάθε ρεκόρ, επιτρέποντας στο κοινό να αγοράσει μετοχές της εταιρείας.
Η OpenAI, η αξία της οποίας εκτιμήθηκε πρόσφατα στα 852 δισ. δολάρια, αναμενόταν να ακολουθήσει την ίδια πορεία, αλλά ο Άλτμαν δήλωσε την Παρασκευή ότι αυτό δεν θα συμβεί φέτος, επικαλούμενος λόγους ασφαλείας.
Πηγή: in.gr
