Η OpenAI, η δημιουργός του ChatGPT, λαμβάνει μέτρα για να διασφαλίσει την ασφάλεια της τεχνητής νοημοσύνης! Όπως ανακοινώθηκε την Τετάρτη, η εταιρεία σχεδιάζει να επενδύσει σημαντικούς πόρους και να δημιουργήσει μια νέα ερευνητική ομάδα αφιερωμένη στη διασφάλιση ότι η τεχνητή νοημοσύνη της θα παραμείνει ασφαλής για τον άνθρωπο.
Αλλά δεν είναι μόνο αυτό! Η OpenAI οραματίζεται ακόμη και την παρακολούθηση της δικής της συμπεριφοράς στο μέλλον . Αυτή η πρωτοβουλία στοχεύει στην αποτροπή της αχαλίνωτης υπερνοημοσύνης που βλάπτει την ανθρωπότητα.
Η OpenAI επενδύει περισσότερους πόρους για να αποτρέψει το ChatGPT από το να γίνει «ανέντιμο»
Σε μια ανάρτηση ιστολογίου, οι Ilya Sutskever και Jan Leike, συνιδρυτές και επικεφαλής ευθυγράμμισης στην OpenAI αντίστοιχα, εξέφρασαν τις ανησυχίες τους σχετικά με την τεράστια δύναμη της υπερ-νοημοσύνης.
Προειδοποιούν ότι αυτή η δύναμη θα μπορούσε να οδηγήσει στην αποδυνάμωση ή ακόμα και στην εξαφάνιση της ανθρωπότητας. Αν και αναγνωρίζουν ότι προς το παρόν δεν έχουν μια λύση για τον έλεγχο μιας δυνητικά υπερ-νοήμονος Τεχνητής Νοημοσύνης και την αποτροπή ανέντιμης συμπεριφοράς, είναι αποφασισμένοι να αντιμετωπίσουν αυτήν την πρόκληση.
Οι συντάκτες του ιστολογίου προβλέπουν ότι οι υπερ-ευφυείς τεχνητές νοημοσύνης (ΤΝ), συστήματα πιο έξυπνα από τους ανθρώπους, θα μπορούσαν να εμφανιστούν αυτήν τη δεκαετία. Αναγνωρίζοντας ότι οι τρέχουσες τεχνικές δεν επαρκούν για τον έλεγχο αυτής της νέας μορφής νοημοσύνης, το OpenAI επικεντρώνεται στην αποκαλούμενη «έρευνα ευθυγράμμισης». Αυτός ο τομέας επικεντρώνεται στη διασφάλιση ότι η ΤΝ παραμένει ωφέλιμη για τον άνθρωπο και απαιτεί σημαντικές εξελίξεις.
Το GPT-4 API είναι πλέον διαθέσιμο σε όλους τους πελάτες του OpenAI API επί πληρωμή. Τα GPT-3.5 Turbo, DALL·E και Whisper API είναι επίσης πλέον γενικά διαθέσιμα και ανακοινώνουμε ένα σχέδιο κατάργησης για ορισμένα από τα παλαιότερα μοντέλα μας, τα οποία θα αποσυρθούν στις αρχές του 2024: https://t.co/H11w4IalNZ
— OpenAI (@OpenAI) 6 Ιουλίου 2023
Για να αντιμετωπίσει αυτήν την πρόκληση, η OpenAI έχει κάνει τολμηρά βήματα. Η εταιρεία, με την υποστήριξη της Microsoft , έχει διαθέσει το 20% της υπολογιστικής της ισχύος για τα επόμενα τέσσερα χρόνια για την επίλυση αυτού του προβλήματος.
Επιπλέον, δημιουργούν μια ομάδα αφιερωμένη σε αυτήν την προσπάθεια, που ονομάζεται ομάδα Superalignment. Ο πρωταρχικός στόχος αυτής της ομάδας είναι να αναπτύξει έναν ερευνητή ευθυγράμμισης τεχνητής νοημοσύνης σε ανθρώπινο επίπεδο και στη συνέχεια να επεκτείνει τις δυνατότητές του χρησιμοποιώντας μεγάλη υπολογιστική ισχύ.
Πώς όμως σκοπεύει η OpenAI να αποτρέψει την ανειλικρίνεια της Τεχνητής Νοημοσύνης στο μέλλον; Η εταιρεία έχει κατά νου μια στρατηγική προσέγγιση. Σχεδιάζουν να εκπαιδεύσουν συστήματα Τεχνητής Νοημοσύνης χρησιμοποιώντας ανθρώπινη ανατροφοδότηση , η οποία θα επιτρέψει στην Τεχνητή Νοημοσύνη να μάθει από τις γνώσεις και τις αξίες μας.
Στη συνέχεια, τα συστήματα Τεχνητής Νοημοσύνης θα εκπαιδευτούν ώστε να βοηθούν στην ανθρώπινη αξιολόγηση, επιτρέποντάς τους να συνεργάζονται μαζί μας στη λήψη αποφάσεων. Τελικά, το OpenAI στοχεύει στην εκπαίδευση συστημάτων Τεχνητής Νοημοσύνης ώστε να διεξάγουν ανεξάρτητα έρευνα ευθυγράμμισης , παρακολουθώντας και διορθώνοντας τη δική τους συμπεριφορά.
Παρόλο που αυτή η πρωτοβουλία έχει πυροδοτήσει ενθουσιασμό και ελπίδα, ορισμένοι επικριτές, όπως ο υπέρμαχος της ασφάλειας της τεχνητής νοημοσύνης, Κόνορ Λίχι, εγείρουν θεμελιώδεις ανησυχίες.
Ο Leahy υποστηρίζει ότι το σχέδιο της OpenAI είναι ελαττωματικό, καθώς μια τεχνητή νοημοσύνη σε ανθρώπινο επίπεδο θα μπορούσε να εξαπλωθεί αχαλίνωτα και να προκαλέσει χάος προτού αναγκαστεί να αντιμετωπίσει ζητήματα ασφάλειας της τεχνητής νοημοσύνης. Υποστηρίζει ότι η επίλυση του προβλήματος ευθυγράμμισης είναι κρίσιμη πριν από την ανάπτυξη νοημοσύνης σε ανθρώπινο επίπεδο.
Ο εντυπωσιασμός πίσω από τον «κίνδυνο της Τεχνητής Νοημοσύνης για την ανθρωπότητα»
Οι πιθανοί κίνδυνοι της Τεχνητής Νοημοσύνης απασχολούν τόσο τους ερευνητές Τεχνητής Νοημοσύνης όσο και το ευρύ κοινό. Τον Απρίλιο, μια ομάδα ηγετών και εμπειρογνωμόνων της βιομηχανίας Τεχνητής Νοημοσύνης υπέγραψε μια ανοιχτή επιστολή ζητώντας μια εξάμηνη παύση στην ανάπτυξη συστημάτων πιο ισχυρών από το GPT-4 της OpenAI, λόγω πιθανών κινδύνων για την κοινωνία.
Επιπλέον, μια δημοσκόπηση των Reuters/Ipsos που διεξήχθη τον Μάιο αποκάλυψε ότι περισσότερα από τα δύο τρίτα των Αμερικανών ανησυχούν για τις πιθανές αρνητικές επιπτώσεις της Τεχνητής Νοημοσύνης, με το 61% να πιστεύει ότι θα μπορούσε να απειλήσει τον πολιτισμό.
Ωστόσο, είναι σημαντικό να αναλυθούν κριτικά οι ισχυρισμοί ότι η τεχνητή νοημοσύνη (ΤΝ) αποτελεί άμεση απειλή για την ανθρωπότητα. Ενώ είναι αλήθεια ότι η υπερ-νοημοσύνη εγείρει ηθικές προκλήσεις και προβληματισμούς, είναι υπερβολή να ισχυριστεί κανείς ότι η ΤΝ θα οδηγήσει στην αποδυνάμωση ή ακόμη και στην εξαφάνιση της ανθρωπότητας.
Πολλοί από αυτούς τους ισχυρισμούς έχουν ενισχυθεί από τον εντυπωσιασμό ορισμένων μέσων ενημέρωσης, τα οποία επιδιώκουν να δημιουργήσουν εντυπωσιακούς τίτλους και να ενσταλάξουν φόβο στο κοινό.
Είναι σημαντικό να κατανοήσουμε ότι η Τεχνητή Νοημοσύνη, μέχρι στιγμής, είναι προϊόν της ανθρώπινης δημιουργικότητας και έχει σχεδιαστεί για να εκτελεί συγκεκριμένες εργασίες. Η ιδέα μιας Τεχνητής Νοημοσύνης με αυτόνομη υπερνοημοσύνη είναι περισσότερο μια φουτουριστική εικασία παρά μια άμεση πραγματικότητα.
Επιπλέον, είναι σημαντικό να σημειωθεί ότι οι περισσότερες εξελίξεις στην Τεχνητή Νοημοσύνη επικεντρώνονται σε συγκεκριμένες εφαρμογές και όχι στη δημιουργία γενικών συστημάτων υπερ-νοημοσύνης.
Αντί να εστιάζουμε σε δυστοπικά και ανησυχητικά σενάρια, είναι πιο εποικοδομητικό να υιοθετήσουμε μια ισορροπημένη και ρεαλιστική προσέγγιση στην ανάπτυξη της Τεχνητής Νοημοσύνης . Ερευνητές και οργανισμοί, όπως η OpenAI, λαμβάνουν προληπτικά μέτρα για να διασφαλίσουν την ασφάλεια και τον έλεγχο της Τεχνητής Νοημοσύνης.
Η έρευνα σχετικά με την ευθυγράμμιση της Τεχνητής Νοημοσύνης αποτελεί ένα παράδειγμα, καθώς επιδιώκει να διασφαλίσει ότι τα συστήματα Τεχνητής Νοημοσύνης παραμένουν ωφέλιμα και ευθυγραμμισμένα με τις ανθρώπινες αξίες. Είναι σημαντικό να διαχωρίσουμε τον εντυπωσιασμό από την πραγματικότητα και να προωθήσουμε έναν τεκμηριωμένο , βασισμένο σε στοιχεία διάλογο σχετικά με το μέλλον της Τεχνητής Νοημοσύνης και τον αντίκτυπό της στην κοινωνία.
