Ancak Google’ın Salı günü yayınlanan videosu yapay zekanın en büyük tuzaklarından birini gösteriyor: Sadece kötü değil, yanlış tavsiye. Gösterişli, hızlı tempolu videonun bir dakikasında, İkizler Yapay Zekası Google Arama’da ilk kez fark edilen gerçek bir hata sunuldu Sınır.

Bir fotoğrafçı, arızalı film kamerasının videosunu çekiyor ve Gemini’ye soruyor: “Kol neden sonuna kadar hareket etmiyor?” Gemini, tüm fotoğraflarını yok edecek bir çözüm de dahil olmak üzere hemen bir çözüm listesi sunuyor.

Listedeki videoda bir öneri öne çıkıyor: “Kamera sıkışmışsa arka kapıyı açın ve filmi yavaşça çıkarın.”

Profesyonel fotoğrafçılar veya film kamerası kullanan herkes bunun berbat bir fikir olduğunu biliyor. Videonun çekildiği açık havada bir kameranın açılması, filmin bir kısmını veya tamamını parlak ışığa maruz bırakarak bozabilir.


Search'ün demo videosunda Gemini'den ekran görüntüsü.

Search’ün demo videosunda Gemini’den ekran görüntüsü.

Google



Google daha önceki AI ürünlerinde de benzer sorunlarla karşılaşmıştı.

Geçen yıl, bir Google demo videosu şunları gösteriyor: Bard sohbet robotu yanlış söyledi James Webb Uzay Teleskobu’nun kendi güneş sistemimizin dışındaki bir gezegeni fotoğraflayan ilk teleskop olduğu ortaya çıktı.

Bu yılın başlarında Gemini chatbot’u geliştirildi resim üretmeyi reddetmek beyaz insanlardan. Fazla “uyanık” olduğu ve öfkeli fotoğraflar geliştirdiği için eleştirildi. tarihsel yanlışlıklar Asyalı Naziler ve Siyah kurucu babalar gibi. Google yönetimi “hedefi kaçırdıklarını” söyleyerek özür diledi.

Salı günkü video, yanlış tahminler olan halüsinasyonlar üreten ve kullanıcılara kötü tavsiyeler veren yapay zeka sohbet robotlarının tehlikelerini vurguluyor. Geçen yıl, Microsoft’un yapay zeka sohbet robotu Bing’in kullanıcıları, garip etkileşimler rapor edildi botla. Kullanıcıları hayalperest olarak nitelendirdi, hangi yıl olduğu konusunda onları aydınlatmaya çalıştı ve hatta aşkını ilan etti bazı kullanıcılara.

Bu tür yapay zeka araçlarını kullanan şirketler, botlarının söylediklerinden de yasal olarak sorumlu olabilir. Şubat ayında bir Kanada mahkemesi toplandı. Air Canada sorumlu Chatbot’unun bir yolcuya ölüm indirimleriyle ilgili yanlış bilgi vermesi nedeniyle.

Google, standart çalışma saatleri dışında gönderilen yorum talebine hemen yanıt vermedi.

Kaynak