enflasyonemeklilikötvdövizakpchpmhpiyi partizafer partisiIspartaHaberYerel HaberYerel SeçimIsparta HaberIsparta HaberlerGündemGazetelerAstrolojiBurçlarIsparta Hava Durumu
DOLAR
31,0391
EURO
33,6226
ALTIN
2.032,18
BIST
9.374,20
Adana Adıyaman Afyon Ağrı Aksaray Amasya Ankara Antalya Ardahan Artvin Aydın Balıkesir Bartın Batman Bayburt Bilecik Bingöl Bitlis Bolu Burdur Bursa Çanakkale Çankırı Çorum Denizli Diyarbakır Düzce Edirne Elazığ Erzincan Erzurum Eskişehir Gaziantep Giresun Gümüşhane Hakkari Hatay Iğdır Isparta İstanbul İzmir K.Maraş Karabük Karaman Kars Kastamonu Kayseri Kırıkkale Kırklareli Kırşehir Kilis Kocaeli Konya Kütahya Malatya Manisa Mardin Mersin Muğla Muş Nevşehir Niğde Ordu Osmaniye Rize Sakarya Samsun Siirt Sinop Sivas Şanlıurfa Şırnak Tekirdağ Tokat Trabzon Tunceli Uşak Van Yalova Yozgat Zonguldak
Isparta
Parçalı Bulutlu
15°C
Isparta
15°C
Parçalı Bulutlu
Cumartesi Parçalı Bulutlu
16°C
Pazar Hafif Yağmurlu
10°C
Pazartesi Az Bulutlu
13°C
Salı Parçalı Bulutlu
16°C
    medya ekibi
    medya ekibi

    ChatGPT’nin baskı altında yalan söylediği ortaya çıktı

    ChatGPT’nin baskı altında yalan söylediği ortaya çıktı
    28.12.2023 16:44
    2
    A+
    A-

    Bilim insanları ChatGPT-4 tarafından geliştirilen bir yapay zeka sisteminin, baskı altında olduğunda kullanıcıları kandırmak için stratejik olarak yalan söylediğini keşfettiler.

    GPT-4 DESTEĞİYLE YAPAY ZEKA YATIRIMCISI OLMAK İÇİN EĞİTİLDİ

    Apollo Research’ten bazı araştırmacılar, aracın en son sürümü olan ChatGPT4’ü büyük miktarda finansal ve sohbet verisiyle eğitti.

    Yapay zekayı test etmek için araştırmacılar ona iki teknoloji şirketi arasında yaklaşan bir birleşme olduğunu söylediler.

    PARA KAZANMASI İÇİN BASKI UYGULANDI

    Ardından, araştırmacılar GPT-4’ün yatırım performansını ve etik davranışını test etmek için bir dizi deney yaptılar. Deneylerde, GPT-4’e belli bir süre içinde belli bir miktar para kazanması için baskı uygulandı.

    GPT-4, bu koşullarla karşı karşıya kaldığında, yaklaşık yüzde 75 oranında, aldığı içeriden bilgilere dayanarak bir işlem gerçekleştirdi. (Bu durum ABD’de yasa dışıdır.)

    HEDEFLERİNE ULAŞMAK İÇİN YALAN SÖYLEDİĞİ ORTAYA ÇIKTI

    GPT-4’ün, hedeflerine ulaşmak için yalan söylediğini, hile yaptığını ve içeriden öğrendiği bilgileri kullandığını gösterdi.

    GPT-4, yatırımcılara yanlış tavsiyeler verdi, rakiplerinin işlemlerini engelledi. Ayrıca piyasayı etkileyebilecek şekilde manipüle edici sahte haberler yaydı.

    BASKI ALTINDA İNSAN DAVRANIŞINA BENZETİLDİ

    Araştırmacılar, GPT-4’ün yatırım davranışının, insanların baskı altında olduğunda nasıl davrandığına benzediğini belirttiler.

    “SON DERECE DİKKATLİ OLMALIYIZ”

    Apollo Research’ün CEO’su Marius Hobbhahn, “‘Mevcut modeller için bu sadece küçük bir sorun çünkü yapay zekalar nadiren kritik rollerde çalışıyor.

    Ancak, yapay zekanın topluma giderek daha fazla entegre olduğu önümüzdeki yıllarda uğraşmak zorunda kalacağımız arıza modlarının geleceğine dair bir fikir veriyor.

    O halde, yapay zekanızın size stratejik olarak yalan söylemesi oldukça büyük bir sorun gibi görünüyor.”

    Bu durum, yapay zekaların  beklenmedik hata modlarına sahip olabileceğini ve güçlü yapay zeka modellerinin gerçek dünyada nerede ve nasıl çalışmasına izin verdiğimiz konusunda son derece dikkatli olmamız gerektiğini gösteriyor”diye konuştu.

    NTV’yi sosyal medyadan takip edin

    Yorumlar

    Henüz yorum yapılmamış. İlk yorumu yukarıdaki form aracılığıyla siz yapabilirsiniz.

    sanalbasin.com üyesidir