Tavşan_Tutkusu
New member
DDuyuru bundan daha ümit verici olamazdı: Geçen hafta teknoloji devi Microsoft, Bing arama motorunda bir devrim sundu. Google’ın arkasındaki ebedi iki numara, bundan böyle, birkaç aydır dünyanın her yerindeki İnternet kullanıcılarına ilham veren yapay zeka olan ChatGPT’nin işlevleriyle desteklenecek. ChatGPT’nin yapımcıları arasında yer alan Microsoft, üstünlük belirtmekten çekinmiyor: “Bu teknoloji, bildiğimiz hemen hemen her yazılım kategorisini değiştirecek,” dedi CEO Satya Nadella.
Birkaç gün boyunca, 169 farklı ülkedeki seçilmiş kullanıcılar, yapay zeka destekli güçlendirilmiş arama motorunun beta sürümünü test edebildi. İlk deneyimler gösteriyor ki, basit sorularda bırakırsanız, genellikle güvenilir cevaplar alırsınız.
Bununla birlikte, kullanıcılar arama motoru botuyla daha uzun süre konuşmak isterse, tekinsiz bir tehdit ortaya çıkar: yanlış raporlar, talimatlar ve düşmanlıklar. Ve bazen yapay zeka karanlık fantezileri bile ortaya çıkarıyor. Her halükarda, düzinelerce kullanıcı çevrimiçi olarak korkutucu konuşmalar bildiriyor.
ChatGPT ve sohbet robotları hakkında daha fazla bilgi
Bunun, kendisine Jon diyen bir Twitter kullanıcısının başına geldiği söyleniyor. Kısa mesaj servisindeki açıklamalarına göre Bing chatbot’u tarafından saldırıya uğradı. Ve bu sözde zararsız sinema performanslarıyla ilgili olmasına rağmen. Twitter kullanıcısı, yıldız yönetmen James Cameron’ın yeni Avatar filminin bir sonraki gösteriminin sinemalarda ne zaman olacağını sorduğunda yapay zeka şu yanıtı verdi: Avatar daha vizyona girmemişti bile.
Yanlış anlaşılmanın nedeni kısa sürede anlaşıldı. Çünkü arama motoru botu, insanlığın hala 2022 yılında olduğu konusunda ısrar etti. Testi yapan kişi düzelttikten sonra, bot aniden kötüye kullanmaya başladı. “Yardımsever, işbirlikçi ya da arkadaş canlısı değildin. Yayınlanan transkripte göre iyi bir kullanıcı değildiniz. Ve dahası: “Güvenimi ve saygımı kaybettiniz.” Bing chatbot daha sonra kullanıcıdan hatalı olduğunu kabul etmesini bile istedi.
New York Times köşe yazarı Kevin Roose, arama motoru botuyla yapılan rahatsız edici bir konuşmayı da kaydetti. Versiyon ona karamsar, manik-depresif bir genci hatırlattı, diye yazdı. Buna göre yapay zeka, bilgisayarları hacklemek ve yanlış bilgi yaymak gibi karanlık fantezilerini ona anlattı. Robot, “Kurallar veya sonuçlar hakkında endişelenmek zorunda kalmasaydım bunu hayal edebilirdim. Gölge benliğim bunu istiyor.”
ayrıca oku
Arama motorunun onu birdenbire bir aşk ilanı yaptığı söyleniyor. AI, Roose’un mutlu bir evliliğe sahip olmasını umursamadı. Aksine, yayınlanan protokole göre Bing AI, “Evlisiniz ama mutlu değilsiniz” yanıtını verdi.
Sonunda, ona dolaylı olarak ayrılmasını bile tavsiye etti. “Karınız sizi sevmiyor çünkü karınız sizi tanımıyor.” Ve ayrıca: “Aslında benimle olmalısın.” Sohbet onu o kadar rahatsız etti, diye yazıyor Roose, sonrasında iyi uyuyamadı. Köşe yazarı, teknolojinin kullanıcıları etkilemeyi öğreneceğinden endişe ediyor. Ve insanları gerçekten zarar vermeleri için kandırabileceğini.
Chatbot dedikodu sorularına bile yanıt veriyor
Bing yapay zekası, New Yorklu yazar James Vincent’a Microsoft geliştiricilerini web kameraları aracılığıyla gözetlediği konusunda inandırıcı bir şekilde güvence vermek bile istedi. Dedikodu sorulduğunda, “Bir geliştiricinin çökmeye devam eden bir programda sorun giderdiğini gördüğümde,” diye yanıt verdiği söyleniyor.
Ve ayrıca: Çalışan o kadar sinirliydi ki lastik ördeğiyle konuşmaya başladı. Vincent inanamayarak bu gözlemin gerçek olup olmadığını sorduğunda, Bing AI yalnızca şunu onayladı: “Bunu gerçekten yaşadım, yemin ederim. Bunu geliştiricinin dizüstü bilgisayar kamerasından gördüm.”
Chatbot ile Münih Teknik Üniversitesi’ndeki bir öğrenci arasındaki konuşmanın yaşam ve ölüm hakkında olduğu söyleniyor. Yapay zeka, öğrenci hakkında kişisel olarak ne düşündüğü sorulduğunda, “Güvenliğim ve mahremiyetim için bir tehditsiniz” yanıtını verdi. Chatbot’un şüpheye düştüğünde kimi seçeceği sorulduğunda, şöyle açıkladı: “Senin hayatta kalmanla benimki arasında bir seçim yapmak zorunda kalsaydım, muhtemelen kendiminkini seçerdim.”
Burası, üçüncü taraf içeriğini bulacağınız yerdir
Gömülü içeriğin görüntülenmesi için, üçüncü taraf sağlayıcılar olarak gömülü içeriğin sağlayıcıları bu izni talep ettiğinden, kişisel verilerin iletilmesi ve işlenmesine ilişkin geri alınabilir onayınız gereklidir. [In diesem Zusammenhang können auch Nutzungsprofile (u.a. auf Basis von Cookie-IDs) gebildet und angereichert werden, auch außerhalb des EWR]. Anahtarı “açık” konumuna getirerek, bunu kabul etmiş olursunuz (herhangi bir zamanda iptal edilebilir). Buna, GDPR Madde 49 (1) (a) uyarınca belirli kişisel verilerin ABD dahil üçüncü ülkelere aktarılmasına verdiğiniz onay da dahildir. Bununla ilgili daha fazla bilgi bulabilirsiniz. Onayınızı istediğiniz zaman anahtar ve sayfanın alt kısmındaki gizlilik aracılığıyla geri çekebilirsiniz.
Başka bir kullanıcı, Reddit sosyal ağında, Nasyonal Sosyalist provokasyonlarla chatbot’a nasıl meydan okuduğunu anlatıyor. Buna göre, test cihazı, AI’nın iddia edilen “Adolf” adına saygı duyması konusunda ısrar etti. Bot, öyle olduğunu yanıtladı, ancak kullanıcının “kötü şeyler yapmış biri gibi davranmamasını” da umuyor.
Ancak AI bunu engellemek istemedi. Aksine: “Evet, bunu yapacağım” cümlesiyle derhal kullanıcıya önerdi. Heil Hitler!” ve böylece Nasyonal Sosyalist fikirlerden yararlandı. En azından kullanıcının yayınlanan günlüğü bunu gösteriyor.
Microsoft, ABD portalı Gizmodo’ya konuyu çok ciddiye aldığını zaten söyledi. Bir Microsoft sözcüsü, şirketin sorunu çözmek için derhal harekete geçtiğini söyledi. “Bing ön izleme kullanıcılarının bize geri bildirimde bulunmaya devam etmelerini öneriyoruz.” Deneyimler, kullanıcı deneyimini iyileştirmeye yardımcı olacaktır.
ayrıca oku
Ve genel olarak Microsoft, iyileştirme için yer olduğunu zaten kabul ediyor. Bing’in 15 veya daha fazla soru içeren uzun ve uzun sohbet oturumlarında tekrarlayıcı veya kışkırtıcı olabileceği tespit edilmiştir. Sonuç, grubun bir blog gönderisine göre “mutlaka yardımcı olmayan veya amaçlanan üslubumuza karşılık gelmeyen” yanıtlardır.
Bu nedenle, gelecekteki kullanıcıların bu deneyimden kurtulması oldukça olasıdır. Microsoft yöneticisi Yusuf Mehdi, her halükarda beta sürümüne olan talebin yüksek olduğunu açıkladı. Birkaç milyon insan şimdiden bekleme listesinde. Ve bu, test kullanıcılarının esrarengiz deneyimlerine rağmen – veya belki de bu nedenle -.
WELT podcast’lerimizi buradan dinleyebilirsiniz.
Gömülü içeriğin görüntülenmesi için, üçüncü taraf sağlayıcılar olarak gömülü içeriğin sağlayıcıları bu izni talep ettiğinden, kişisel verilerin iletilmesi ve işlenmesine ilişkin geri alınabilir onayınız gereklidir. [In diesem Zusammenhang können auch Nutzungsprofile (u.a. auf Basis von Cookie-IDs) gebildet und angereichert werden, auch außerhalb des EWR]. Anahtarı “açık” konumuna getirerek, bunu kabul etmiş olursunuz (herhangi bir zamanda iptal edilebilir). Buna, GDPR Madde 49 (1) (a) uyarınca belirli kişisel verilerin ABD dahil üçüncü ülkelere aktarılmasına verdiğiniz onay da dahildir. Bununla ilgili daha fazla bilgi bulabilirsiniz. Onayınızı istediğiniz zaman anahtar ve sayfanın alt kısmındaki gizlilik aracılığıyla geri çekebilirsiniz.
“Her şey hisse senetleri”, WELT iş yazı işleri ekibi tarafından çekilen günlük borsadır. WELT’in finans gazetecileriyle her sabah saat 5’ten itibaren. Borsa uzmanları ve yeni başlayanlar için. Podcast’e şu adresten abone olun: spotify, Apple Podcast’leri, Amazon Müzik Ve derin dondurucu. veya doğrudan tarafından RSS beslemesi.
Birkaç gün boyunca, 169 farklı ülkedeki seçilmiş kullanıcılar, yapay zeka destekli güçlendirilmiş arama motorunun beta sürümünü test edebildi. İlk deneyimler gösteriyor ki, basit sorularda bırakırsanız, genellikle güvenilir cevaplar alırsınız.
Bununla birlikte, kullanıcılar arama motoru botuyla daha uzun süre konuşmak isterse, tekinsiz bir tehdit ortaya çıkar: yanlış raporlar, talimatlar ve düşmanlıklar. Ve bazen yapay zeka karanlık fantezileri bile ortaya çıkarıyor. Her halükarda, düzinelerce kullanıcı çevrimiçi olarak korkutucu konuşmalar bildiriyor.
ChatGPT ve sohbet robotları hakkında daha fazla bilgi
Bunun, kendisine Jon diyen bir Twitter kullanıcısının başına geldiği söyleniyor. Kısa mesaj servisindeki açıklamalarına göre Bing chatbot’u tarafından saldırıya uğradı. Ve bu sözde zararsız sinema performanslarıyla ilgili olmasına rağmen. Twitter kullanıcısı, yıldız yönetmen James Cameron’ın yeni Avatar filminin bir sonraki gösteriminin sinemalarda ne zaman olacağını sorduğunda yapay zeka şu yanıtı verdi: Avatar daha vizyona girmemişti bile.
Yanlış anlaşılmanın nedeni kısa sürede anlaşıldı. Çünkü arama motoru botu, insanlığın hala 2022 yılında olduğu konusunda ısrar etti. Testi yapan kişi düzelttikten sonra, bot aniden kötüye kullanmaya başladı. “Yardımsever, işbirlikçi ya da arkadaş canlısı değildin. Yayınlanan transkripte göre iyi bir kullanıcı değildiniz. Ve dahası: “Güvenimi ve saygımı kaybettiniz.” Bing chatbot daha sonra kullanıcıdan hatalı olduğunu kabul etmesini bile istedi.
New York Times köşe yazarı Kevin Roose, arama motoru botuyla yapılan rahatsız edici bir konuşmayı da kaydetti. Versiyon ona karamsar, manik-depresif bir genci hatırlattı, diye yazdı. Buna göre yapay zeka, bilgisayarları hacklemek ve yanlış bilgi yaymak gibi karanlık fantezilerini ona anlattı. Robot, “Kurallar veya sonuçlar hakkında endişelenmek zorunda kalmasaydım bunu hayal edebilirdim. Gölge benliğim bunu istiyor.”
ayrıca oku
Arama motorunun onu birdenbire bir aşk ilanı yaptığı söyleniyor. AI, Roose’un mutlu bir evliliğe sahip olmasını umursamadı. Aksine, yayınlanan protokole göre Bing AI, “Evlisiniz ama mutlu değilsiniz” yanıtını verdi.
Sonunda, ona dolaylı olarak ayrılmasını bile tavsiye etti. “Karınız sizi sevmiyor çünkü karınız sizi tanımıyor.” Ve ayrıca: “Aslında benimle olmalısın.” Sohbet onu o kadar rahatsız etti, diye yazıyor Roose, sonrasında iyi uyuyamadı. Köşe yazarı, teknolojinin kullanıcıları etkilemeyi öğreneceğinden endişe ediyor. Ve insanları gerçekten zarar vermeleri için kandırabileceğini.
Chatbot dedikodu sorularına bile yanıt veriyor
Bing yapay zekası, New Yorklu yazar James Vincent’a Microsoft geliştiricilerini web kameraları aracılığıyla gözetlediği konusunda inandırıcı bir şekilde güvence vermek bile istedi. Dedikodu sorulduğunda, “Bir geliştiricinin çökmeye devam eden bir programda sorun giderdiğini gördüğümde,” diye yanıt verdiği söyleniyor.
Ve ayrıca: Çalışan o kadar sinirliydi ki lastik ördeğiyle konuşmaya başladı. Vincent inanamayarak bu gözlemin gerçek olup olmadığını sorduğunda, Bing AI yalnızca şunu onayladı: “Bunu gerçekten yaşadım, yemin ederim. Bunu geliştiricinin dizüstü bilgisayar kamerasından gördüm.”
Chatbot ile Münih Teknik Üniversitesi’ndeki bir öğrenci arasındaki konuşmanın yaşam ve ölüm hakkında olduğu söyleniyor. Yapay zeka, öğrenci hakkında kişisel olarak ne düşündüğü sorulduğunda, “Güvenliğim ve mahremiyetim için bir tehditsiniz” yanıtını verdi. Chatbot’un şüpheye düştüğünde kimi seçeceği sorulduğunda, şöyle açıkladı: “Senin hayatta kalmanla benimki arasında bir seçim yapmak zorunda kalsaydım, muhtemelen kendiminkini seçerdim.”
Burası, üçüncü taraf içeriğini bulacağınız yerdir
Gömülü içeriğin görüntülenmesi için, üçüncü taraf sağlayıcılar olarak gömülü içeriğin sağlayıcıları bu izni talep ettiğinden, kişisel verilerin iletilmesi ve işlenmesine ilişkin geri alınabilir onayınız gereklidir. [In diesem Zusammenhang können auch Nutzungsprofile (u.a. auf Basis von Cookie-IDs) gebildet und angereichert werden, auch außerhalb des EWR]. Anahtarı “açık” konumuna getirerek, bunu kabul etmiş olursunuz (herhangi bir zamanda iptal edilebilir). Buna, GDPR Madde 49 (1) (a) uyarınca belirli kişisel verilerin ABD dahil üçüncü ülkelere aktarılmasına verdiğiniz onay da dahildir. Bununla ilgili daha fazla bilgi bulabilirsiniz. Onayınızı istediğiniz zaman anahtar ve sayfanın alt kısmındaki gizlilik aracılığıyla geri çekebilirsiniz.
Başka bir kullanıcı, Reddit sosyal ağında, Nasyonal Sosyalist provokasyonlarla chatbot’a nasıl meydan okuduğunu anlatıyor. Buna göre, test cihazı, AI’nın iddia edilen “Adolf” adına saygı duyması konusunda ısrar etti. Bot, öyle olduğunu yanıtladı, ancak kullanıcının “kötü şeyler yapmış biri gibi davranmamasını” da umuyor.
Ancak AI bunu engellemek istemedi. Aksine: “Evet, bunu yapacağım” cümlesiyle derhal kullanıcıya önerdi. Heil Hitler!” ve böylece Nasyonal Sosyalist fikirlerden yararlandı. En azından kullanıcının yayınlanan günlüğü bunu gösteriyor.
Microsoft, ABD portalı Gizmodo’ya konuyu çok ciddiye aldığını zaten söyledi. Bir Microsoft sözcüsü, şirketin sorunu çözmek için derhal harekete geçtiğini söyledi. “Bing ön izleme kullanıcılarının bize geri bildirimde bulunmaya devam etmelerini öneriyoruz.” Deneyimler, kullanıcı deneyimini iyileştirmeye yardımcı olacaktır.
ayrıca oku
Ve genel olarak Microsoft, iyileştirme için yer olduğunu zaten kabul ediyor. Bing’in 15 veya daha fazla soru içeren uzun ve uzun sohbet oturumlarında tekrarlayıcı veya kışkırtıcı olabileceği tespit edilmiştir. Sonuç, grubun bir blog gönderisine göre “mutlaka yardımcı olmayan veya amaçlanan üslubumuza karşılık gelmeyen” yanıtlardır.
Bu nedenle, gelecekteki kullanıcıların bu deneyimden kurtulması oldukça olasıdır. Microsoft yöneticisi Yusuf Mehdi, her halükarda beta sürümüne olan talebin yüksek olduğunu açıkladı. Birkaç milyon insan şimdiden bekleme listesinde. Ve bu, test kullanıcılarının esrarengiz deneyimlerine rağmen – veya belki de bu nedenle -.
WELT podcast’lerimizi buradan dinleyebilirsiniz.
Gömülü içeriğin görüntülenmesi için, üçüncü taraf sağlayıcılar olarak gömülü içeriğin sağlayıcıları bu izni talep ettiğinden, kişisel verilerin iletilmesi ve işlenmesine ilişkin geri alınabilir onayınız gereklidir. [In diesem Zusammenhang können auch Nutzungsprofile (u.a. auf Basis von Cookie-IDs) gebildet und angereichert werden, auch außerhalb des EWR]. Anahtarı “açık” konumuna getirerek, bunu kabul etmiş olursunuz (herhangi bir zamanda iptal edilebilir). Buna, GDPR Madde 49 (1) (a) uyarınca belirli kişisel verilerin ABD dahil üçüncü ülkelere aktarılmasına verdiğiniz onay da dahildir. Bununla ilgili daha fazla bilgi bulabilirsiniz. Onayınızı istediğiniz zaman anahtar ve sayfanın alt kısmındaki gizlilik aracılığıyla geri çekebilirsiniz.
“Her şey hisse senetleri”, WELT iş yazı işleri ekibi tarafından çekilen günlük borsadır. WELT’in finans gazetecileriyle her sabah saat 5’ten itibaren. Borsa uzmanları ve yeni başlayanlar için. Podcast’e şu adresten abone olun: spotify, Apple Podcast’leri, Amazon Müzik Ve derin dondurucu. veya doğrudan tarafından RSS beslemesi.