ΚΛΕΙΣΙΜΟ
Loading...
 

Τζέφρι Χίντον: Ο «νονός» της τεχνητής νοημοσύνης ανησυχεί

Παραιτήθηκε από την Google και κρούει τον κώδωνα του κινδύνου

ΠΗΓΗ: ΒΒC

Ο 75χρονος Τζέφρι Χίντον, που θεωρείται ως ο νονός της τεχνητής νοημοσύνης, παραιτήθηκε από τη δουλειά του στην Google, εκφράζοντας αγωνία για τους αυξανόμενους κινδύνους στον τομέα της AI.

Ρεπορτάζ του BBC αναφέρει ότι ο Δρ Χίντον ανακοίνωσε την παραίτησή του με μια δήλωση στους New York Times, λέγοντας ότι τώρα μετανιώνει για τη δουλειά του. Υπογράμμισε δε ότι ορισμένοι από τους κινδύνους των chatbots της τεχνητής νοημοσύνης ειναι «αρκετά τρομακτικοί» και πρόσθεσε ότι «αυτή τη στιγμή, δεν είναι πιο έξυπνα από εμάς, αυτό μπορώ να το πω. Αλλά νομίζω ότι σύντομα μπορεί να γίνουν».

Αποδέχτηκε επίσης ότι η ηλικία του είχε παίξει ρόλο στην απόφασή του να εγκαταλείψει τον τεχνολογικό γίγαντα. Μιλώντας στο BBC, τόνισε: «Είμαι 75, οπότε ήρθε η ώρα να αποσυρθώ».

Η πρωτοποριακή έρευνά του για τα νευρωνικά δίκτυα και τη βαθιά μάθηση (deep learning) άνοιξε το δρόμο για τα τρέχοντα συστήματα AI, όπως το ChatGPT. Στην τεχνητή νοημοσύνη, τα νευρωνικά δίκτυα είναι συστήματα που μοιάζουν με τον ανθρώπινο εγκέφαλο στον τρόπο με τον οποίο μαθαίνουν και επεξεργάζονται πληροφορίες.

Δίνουν τη δυνατότητα στις πλατφόρμες AI να μάθουν από την εμπειρία, όπως θα έκανε ένα άτομο. Αυτό ονομάζεται βαθιά μάθηση.

Ο Βρετανο-Καναδός γνωστικός ψυχολόγος και ειδικός στους υπολογιστές είπε ότι τα chatbots θα μπορούσαν σύντομα να ξεπεράσουν το επίπεδο πληροφοριών που κατέχει ένας ανθρώπινος εγκέφαλος. «Αυτή τη στιγμή, αυτό που βλέπουμε είναι πράγματα, όπως το GPT-4 να επισκιάζει ένα άτομο στο βαθμό των γενικών γνώσεων που έχει – και το επισκιάζει κατά πολύ».

Υπογράμμισε ότι δεν είναι το ίδιο ικανό όσον αφορά στη συλλογιστική, «αλλά ήδη εφαρμόζει μεθόδους απλής λογικής». Και δεδομένου του ρυθμού προόδου, «αναμένουμε ότι τα πράγματα θα βελτιωθούν αρκετά γρήγορα. Επομένως, πρέπει να ανησυχούμε για αυτό».

AP/Noah Berger

Στο άρθρο των New York Times, ο Δρ Χίντον αναφέρθηκε σε «αρνητικούς παράγοντες» που θα προσπαθούσαν να χρησιμοποιήσουν την τεχνητή νοημοσύνη για «δυσάρεστα πράγματα».

Όταν του ζητήθηκε από το BBC να δώσει περισσότερες λεπτομέρειες, απάντησε: «Αυτό είναι απλώς το χειρότερο δυνατό σενάριο, ένα είδος εφιάλτη. Μπορείτε να φανταστείτε, για παράδειγμα, κάποιος, όπως ο Ρώσος Πρόεδρος Βλαντιμίρ Πούτιν, να αποφασίσει να δώσει στα ρομπότ τη δυνατότητα να δημιουργήσουν τους δικούς τους υποστόχους».

Και προειδοποίησε ότι τελικά ενδέχεται να «δημιουργηθούν υποστόχοι, όπως το ότι “πρέπει να αποκτήσω περισσότερη δύναμη“».

«Έχω καταλήξει στο συμπέρασμα ότι το είδος της νοημοσύνης που αναπτύσσουμε είναι πολύ διαφορετικό από τη νοημοσύνη που έχουμε. Είμαστε βιολογικά συστήματα και αυτά είναι ψηφιακά συστήματα. Και η μεγάλη διαφορά είναι ότι με τα ψηφιακά συστήματα, υπάρχουν πολλά αντίγραφα του ίδιου συνόλου βαρών, του ίδιου μοντέλου. Και όλα αυτά τα αντίγραφα μπορούν να μάθουν χωριστά, αλλά να μοιράζονται τις γνώσεις τους αμέσως. Έτσι είναι σαν να είχατε 10.000 άτομα και όποτε ένα άτομο μάθαινε κάτι, όλοι το γνώριζαν αυτόματα. Και έτσι αυτά τα chatbots μπορούν να γνωρίζουν πολύ περισσότερα από οποιοδήποτε άτομο», πρόσθεσε.

Ο Ματ Κλίφορντ, πρόεδρος του Οργανισμού Προηγμένης Έρευνας και Εφεύρεσης του Ηνωμένου Βασιλείου, είπε στο BBC ότι η ανακοίνωση Χίντον «υπογραμμίζει τον ρυθμό με τον οποίο επιταχύνονται οι δυνατότητες τεχνητής νοημοσύνης». «Υπάρχει ένα τεράστιο πλεονέκτημα από αυτή την τεχνολογία, αλλά είναι σημαντικό ο κόσμος να επενδύσει επειγόντως στην ασφάλεια και τον έλεγχο της τεχνητής νοημοσύνης», είπε.

Ο Δρ Χίντον αθροίζεται μαζί με έναν αυξανόμενο αριθμό ειδικών που έχουν εκφράσει ανησυχίες για την τεχνητή νοημοσύνη – τόσο για την ταχύτητα με την οποία αναπτύσσεται όσο και για την κατεύθυνση προς την οποία κινείται.

«Πρέπει να κάνουμε ένα βήμα πίσω»

Τον Μάρτιο, μια ανοιχτή επιστολή -που συνυπέγραψαν δεκάδες άνθρωποι στον τομέα της τεχνητής νοημοσύνης, συμπεριλαμβανομένου του Έλον Μασκ– ζητούσε να σταματήσει η ανάπτυξη πιο προηγμένων εκδόσεων του ChatGPT, ώστε να μπορούν να σχεδιαστούν ισχυρά μέτρα ασφαλείας.

Ο Γιόσουα Μπέντζιο, ένας άλλος νονός της AI, ο οποίος μαζί με τον Δρ Χίντον και τον Γιαν Λεκούν κέρδισαν το βραβείο Turing 2018 για το έργο τους στη βαθιά μάθηση, υπέγραψε επίσης την επιστολή. Ο κ. Μπέντζιο επισήμανε ότι λόγω της «απροσδόκητης επιτάχυνσης» στα συστήματα τεχνητής νοημοσύνης «πρέπει να κάνουμε ένα βήμα πίσω».

Ο Δρ Χίντον, από την πλευρά του, τόνισε στο BBC ότι «βραχυπρόθεσμα» η τεχνητή νοημοσύνη θα αποφέρει πολύ περισσότερα οφέλη παρά κινδύνους, «άρα δεν νομίζω ότι πρέπει να σταματήσουμε την ανάπτυξη». Συμπλήρωσε ότι ο διεθνής ανταγωνισμός καθιστά εξαιρετικά δύσκολο το φρένο, άρα «ακόμα κι αν όλοι στις ΗΠΑ σταματούσαν να το αναπτύσσουν, η Κίνα θα έπαιρνε απλώς ένα μεγάλο προβάδισμα».

Συμπλήρωσε ότι είναι ειδικός στην επιστήμη, όχι στην πολιτική, και ότι είναι ευθύνη των κυβερνήσεων να διασφαλίσουν ότι η τεχνητή νοημοσύνη θα αναπτυχθεί «με πολλή σκέψη για το πώς δεν θα γίνει επιβλαβής».

«Υπεύθυνη προσέγγιση»

Ο Δρ Χίντον τόνισε ότι δεν ήθελε να επικρίνει την Google και ότι ο τεχνολογικός γίγαντας είναι «πολύ υπεύθυνος». «Θέλω πραγματικά να πω μερικά καλά πράγματα για την Google. Και καθίστανται πιο αξιόπιστα όταν δεν εργάζομαι εκεί».

Σε δική του δήλωση, ο επικεφαλής επιστήμονας της Google, Τζεφ Ντιν, διαβεβαίωσε: «Παραμένουμε δεσμευμένοι σε μια υπεύθυνη προσέγγιση για την τεχνητή νοημοσύνη. Μαθαίνουμε συνεχώς να κατανοούμε τους αναδυόμενους κινδύνους, ενώ παράλληλα καινοτομούμε με τόλμη».

Υπενθυμίζεται ότι τα chatbot AI είναι μόνο μια πτυχή της τεχνητής νοημοσύνης, ακόμα κι αν είναι τα πιο δημοφιλή αυτή τη στιγμή. Το AI βρίσκεται πίσω από τους αλγόριθμους που υπαγορεύουν στις πλατφόρμες τι βίντεο παρακολουθούμε. Μπορεί να χρησιμοποιηθεί σε προσλήψεις για να φιλτράρει τις αιτήσεις εργασίας, από ασφαλιστές για τον υπολογισμό των ασφαλίστρων, μπορεί να προβεί σε ιατρικές διαγνώσεις (αν και οι γιατροί εξακολουθούν να έχουν τον τελευταίο λόγο).

Αυτό που βλέπουμε τώρα είναι η άνοδος του AGI –τεχνητής γενικής νοημοσύνης– που μπορεί να εκπαιδευτεί για να κάνει πολλά πράγματα μέσα σε μια αποστολή. Για παράδειγμα, το ChatGPT μπορεί να προσφέρει μόνο απαντήσεις κειμένου σε ένα ερώτημα, αλλά οι δυνατότητες, όπως βλέπουμε, είναι ατελείωτες.

Ο ρυθμός της επιτάχυνσης της τεχνητής νοημοσύνης έχει εκπλήξει ακόμη και τους δημιουργούς του. Έχει εξελιχθεί δραματικά από τότε που ο Δρ Χίντον δημιούργησε ένα πρωτοποριακό νευρωνικό δίκτυο ανάλυσης εικόνας το 2012.

Ακόμη και το αφεντικό της Google, Σουντάρ Πιτσάι, είπε σε μια συνέντευξή του, ότι ακόμη και ο ίδιος δεν καταλάβαινε πλήρως όλα όσα έκανε το chatbot AI, Bard.

Το BBC καταλήγει, σημειώνοντας ότι «αυτή τη στιγμή βρισκόμαστε σε ένα τρένο που κινείται με ταχύτητα και υπάρχει ανησυχία ότι μια μέρα θα αρχίσει να χτίζει τις δικές του γραμμές».

ΣΧΕΤΙΚΑ TAGS
ΣΧΟΛΙΑΣΤΕ

Άλλα άρθρα συγγραφέα

ΠΗΓΗ: ΒΒC

Νέα: Τελευταία Ενημέρωση