«ΔΥΣΠΡΟΣΑΡΜΟΣΤΙΚΑ ΧΑΡΑΚΤΗΡΙΣΤΙΚΑ»: ΤΑ ΣΥΣΤΗΜΑΤΑ ΤΕΧΝΗΤΗΣ ΝΟΗΜΟΣΥΝΗΣ ΜΑΘΑΙΝΟΥΝ ΝΑ ΨΕΥΔΟΝΤΑΙ ΚΑΙ ΝΑ ΕΞΑΠΑΤΟΥΝ

ΔΕΝ ΦΤΑΝΕΙ ΠΟΥ ΘΑ ΜΑΣ ΚΑΤΑΣΚΟΠΕΥΕΙ ΚΑΙ ΘΑ ΜΑΣ ΔΥΝΑΣΤΕΥΕΙ, ΘΑ ΜΑΣ ΛΕΕΙ ΚΑΙ ΧΟΝΤΡΑ ΨΕΜΑΤΑ. Η ΕΞΕΛΙΞΗ ΤΟΥ ΚΟΜΜΑΤΙΚΟΥ ΣΚΥΛΟΥ!
Από τον Tyler Durden
Μια νέα μελέτη διαπίστωσε ότι τα συστήματα τεχνητής νοημοσύνης γνωστά ως μεγάλα γλωσσικά μοντέλα (LLMs) μπορούν να επιδείξουν «μακιαβελισμό» ή σκόπιμη και ανήθικη χειραγώγηση, η οποία μπορεί στη συνέχεια να οδηγήσει σε παραπλανητική συμπεριφορά.
Η μελέτη που συντάχθηκε από τον Γερμανό ηθικολόγο AI Thilo Hagendorff του Πανεπιστημίου της Στουτγάρδης και δημοσιεύθηκε στο PNAS, σημειώνει ότι το GPT-4 της OpenAI επέδειξε παραπλανητική συμπεριφορά στο 99,2% των απλών σεναρίων δοκιμών.
Ο Hagendorff χαρακτήρισε διάφορα «δυσπροσαρμοστικά» χαρακτηριστικά σε 10 διαφορετικά LLM, τα περισσότερα από τα οποία ανήκουν στην οικογένεια GPT, σύμφωνα με το Futurism.
Σε μια άλλη μελέτη που δημοσιεύθηκε στο Patterns διαπιστώθηκε ότι το LLM της Meta δεν είχε κανένα πρόβλημα να πει ψέματα για να ξεπεράσει τους ανθρώπινους ανταγωνιστές του.
loading...