Yapmanın yanı sıra özlü çıkış duyuruları X’te OpenAI’nin gelişime yaklaşımı veya yapay zekanın geleceği konusunda neden endişelendikleri hakkında pek bir şey söylemediler.

Yani, bu haftanın başlarında, Nisan ayında OpenAI’den kovulan araştırmacı Leopold Aschenbrenner, AI devrimi hakkındaki düşüncelerini 165 sayfalık destansı bir incelemede yayınlayana kadar.

Aschenbrenner, OpenAI’nin süper hizalama ekibinde çalıştı azaltılmış AI riskleriyle görevlendirildi. Aschenbrenner, OpenAI’nin şirketin hazırlık durumu hakkında bilgi sızdırdığı için kendisini kovduğunu söyledi. yapay genel zeka.

Aschenbrenner ise şu bilgileri verdi: “tamamen normal” olduğunu paylaştı ve OpenAI onu kovmak için bir neden arıyor olabilir. O, CEO Sam Altman’ın geri dönmesi çağrısında bulunan bir mektubu imzalamayı reddeden birkaç çalışandan biriydi. yönetim kurulu kısa süreliğine Altman’ı görevden aldı geçen sene.

Aschenbrenner’ın makalesi görünmektedir OpenAI ile ilgili hassas ayrıntıları içerir. Bunun yerine, Aschenbrenner’ın ithaf sayfasında yazdığı gibi, “kamuya açık bilgilere, kendi fikirlerime, genel alan bilgilerime veya bilimkurgu dedikodularına” dayanıyor.

Business Insider yüklendi broşür OpenAI’nin GPT-4 modeli. Çalışmayı özetlemesini ve en önemli çıkarımları aktarmasını istedik. Ayrıca bottan özetini açık ve kısa tutmasını da rica ettik.

İşte Aschenbrenner’ın makalesinin ChatGPT’nin 57 kelimelik özeti

ChatGPT, makaleyi Aschenbrenner’ın yapay zekanın evrimi hakkındaki görüşlerini özetleyen 57 kelimeye ayırdı.

“Leopold Aschenbrenner’ın makalesi, yapay genel zekanın (AGI) ve süper zekanın dönüştürücü potansiyelini tartışıyor ve yakın gelecekte yapay zeka teknolojisinde önemli ilerlemeler olacağını öngörüyor. Daha önce OpenAI ile ilişkili olan Aschenbrenner, GPT-4 gibi mevcut yapay zeka modellerinden yapay zekaya geçişin nasıl gerçekleştiğini özetliyor. AGI, hesaplama gücü ve algoritmik verimlilikteki eğilimlere bağlı olarak beklenenden çok daha hızlı gerçekleşebilir.”

ChatGPT daha sonra dört önemli çıkarım sundu: Aschenbrenner’ın makalesi

Yapay Zekada Hızlı İlerleme

“Aschenbrenner, yapay zeka gelişiminin benzeri görülmemiş bir oranda hızlandığını savunuyor. 2027 yılına kadar yapay zeka modellerinin, insan yapay zeka araştırmacılarının ve mühendislerinin yeteneklerine ulaşabileceğini, bunun da potansiyel olarak yapay zekanın insan zekasını aştığı bir zeka patlamasına yol açabileceğini öngörüyor.”

Ekonomik ve Güvenlik Etkileri

“Yazı, bu ilerlemelerin muazzam ekonomik ve güvenlik etkilerini vurguluyor. Aschenbrenner, GPU’lar, veri merkezleri ve enerji üretimi gibi bu yapay zeka sistemlerini desteklemek için gereken altyapının geliştirilmesine trilyonlarca dolar yatırım yapıldığına dikkat çekiyor. Özellikle ÇKP gibi devlet aktörleri tarafından kötüye kullanımı önlemek için bu teknolojilerin güvence altına alınması kritik bir ihtiyaçtır.”

Teknik ve Etik Zorluklar

“Teknik ve Etik Zorluklar: Makale, insanlardan daha akıllı olan yapay zeka sistemlerinin kontrol edilmesindeki önemli zorlukları tartışıyor ve buna “süper hizalama” sorunu olarak atıfta bulunuyor. Bunu yönetmek, felaket niteliğindeki sonuçları önlemek için çok önemli olacak.”

Tahminler ve Toplumsal Etki

“Aschenbrenner, çok az kişinin yapay zekanın getireceği değişimin boyutunu gerçekten anladığını öne sürüyor. Yapay zekanın endüstrileri yeniden şekillendirme, ulusal güvenliği artırma ve yeni etik ve yönetişim zorlukları ortaya çıkarma potansiyelini tartışıyor.”

Fazlası var.

Aschenbrenner’ın yazdığı gibi, çoğu San Francisco’daki yapay zeka laboratuvarlarında sektör hakkında “durumsal farkındalığa” sahip olan muhtemelen sadece birkaç yüz kişi var. Bu insanlar muhtemelen yapay zekanın önümüzdeki yılları nasıl yeniden şekillendireceğine dair en iyi anlayışa sahip olacaklar.

Bunlardan biri olan Aschenbrenner, yapay zekanın ulusal güvenlikte kritik bir rol üstleneceğine inanıyor gibi görünüyor.

ChatGPT’den Aschenbrenner’in makalesinde yaptığı tahminleri özetlemesini isteyerek orijinal istemimizi takip ettik.

İşte ChatGPT bunu nasıl bozdu.

  1. 2027 yılına kadar AGI: “Aschenbrenner, yapay genel zekanın (AGI) 2027 yılına kadar çarpıcı biçimde makul olacağını öngörüyor ve GPT-2’den GPT-4’e hızlı ilerlemenin altını çiziyor; bu da yapay zeka modellerinin sadece dört yıl içinde okul öncesi düzeyden akıllı lise becerilerine doğru ilerlediğini gösteriyor. bilgi işlem ve algoritmik verimlilikteki tutarlı gelişmelere dayanarak önümüzdeki birkaç yıl içinde benzer bir sıçrama bekliyoruz.”
  2. YGZ’yi Takip Eden Süper Zeka: “Yazar, AGI sonrası, yapay zekanın insan seviyesinden insanüstü yeteneklere hızla ilerlediği bir “zeka patlaması” öngörüyor. Bu geçişin, yapay zekanın kendi araştırma ve geliştirmesini otomatikleştirme ve hızlandırma yeteneği tarafından desteklenmesi bekleniyor.”
  3. Trilyon Dolarlık Yapay Zeka Kümeleri: “Ekonomik olarak Aschenbrenner, şirketler ve hükümetler YZG ve süper zekanın etkilerine hazırlanırken yapay zeka sektörünün trilyon dolarlık bilgi işlem kümelerine yapılan yatırımlarda bir artış göreceğini öne sürüyor.”
  4. Ulusal ve Küresel Güvenlik Dinamikleri: “Yapay zeka gelişmelerini yönetmek ve kontrol etmek için yoğun ulusal güvenlik önlemlerinin yürürlüğe konulduğuna dair tahminler var. Özellikle Çin hükümetiyle olan rekabet yoğunlaşabilir ve eğer düzgün yönetilmezse muhtemelen ‘topyekün bir savaşa’ yol açabilir.”
  5. Süper Hizalama Zorlukları: “En kritik tahminlerden biri ‘süper hizalama’ ile mücadeledir; yani süper zeki yapay zekayı insan değerleri ve çıkarlarıyla aynı hizada tutmanın zorluğu. Bu sorunun, yapay zeka insan zekası seviyelerine ulaşıp bu seviyeleri aştıkça temel engellerden biri olması bekleniyor.”
  6. Toplumsal ve Ekonomik Dönüşümler: “Aschenbrenner, yapay zekanın toplum ve ekonomi üzerinde derin bir etkiye sahip olmasını ve yapay zekanın şu anda insanlar tarafından yönetilen görevleri yerine getirme yeteneği nedeniyle potansiyel olarak endüstrilerin ve iş piyasasının yeniden yapılandırılmasına yol açmasını bekliyor.”
  7. ABD Hükümetinin Proje Katılımı: “Tahminler, ABD hükümetinin, muhtemelen yapay zeka teknolojisinin stratejik önemi nedeniyle, özel bir YGZ projesi aracılığıyla 2027-2028 civarında yapay zeka gelişimine önemli ölçüde dahil olmasını içeriyor.”
  8. Teknolojik Seferberlik: “Ulusal politikanın önceliği olarak yapay zekaya ve onun destekleyici altyapısına odaklanarak, tarihsel savaş zamanlarındaki çabalara benzer şekilde teknolojik ve endüstriyel kaynakların seferber edilmesini öngörüyor.”

İşte kullandığımız istemin tamamı:

Rol: Editör olarak hareket edin.
Görev: Eski OpenAI araştırmacısı Leopold Aschenbrenner hakkındaki ekteki makaleyi okuyun.
Talimatlar:
  • En önemli çıkarımları vurgulayarak makaleyi özetleyin.
  • Temel katkılara, araştırma alanlarına ve bu alandaki dikkate değer etkilere odaklanın.
  • Özetin kısa ve kapsamlı olduğundan, Aschenbrenner’in çalışmaları ve etkisinin net bir şekilde anlaşılmasını sağladığından emin olun.

Kaynak