0

BEĞENDİM

ABONE OL

News

0

OpenAI CEO’su Altman’ın görevden alınmasından önce şirketin birkaç araştırmacısının, yönetim kuruluna yazdıkları mektupla, insanlığı tehdit edebilecek güçlü bir yapay zeka buluşu hakkında uyarıda bulunduğu öğrenildi.

Reuters haber ajansına konuşan OpenAI şirketinden iki kaynak, Altman’ın görevden alınmadan önce söz konusu mektubun ve yapay zeka algoritmasının iki kilit gelişme olduğunu söyledi.

Altman’ın OpenAI CEO’su olarak Salı gece geç saatlerde şirketin başına yeniden gelmesinden önce 700’den fazla şirket çalışanı istifa ederek Microsoft’a katılma tehdidinde bulunmuştu.

Kaynaklar, mektubun, yönetim kurulunun Altman’ın kovulmasına yol açan uzun şikayet listesinde yer alan etkenlerden biri olduğunu söyledi.

Kaygılardan biri, doğuracağı sonuçlar tam olarak anlaşılmadan ticarileşme adımı atılmasıyla ilgiliydi. Reuters, mektubun bir kopyasını görme imkanı elde edemedi. Mektubu kaleme alanlarsa konuya ilişkin açıklama yapmaları talebini yanıtsız bıraktı.

Açıklama yapmayı reddeden OpenAI, Reuters’ın iletişime geçmesi üzerine, Q* olarak adlandırılan bir projeyle ilgili elemanlarına bir mesaj gönderildiğini ve yönetim kuruluna yazılan mektubu doğruladı.

OpenAI’dan bir sözcü, şirket yöneticisi Mira Murati’nin gönderdiği mesajın, OpenAI çalışanlarının dikkatini basında çıkan bazı haberlere çektiğini söyledi.

Kaynaklardan birinin Reuters’a aktardığına göre bazı OpenAI çalışanları, “Q-Star” olarak telaffuz edilen Q* projesinin, yapay genel zeka (AGI) olarak bilinen teknolojiyle ilgili araştırmada çığır açacak nitelikte olduğuna inanıyor.

OpenAI, yapay genel zekayı (AGI), ekonomik açıdan değerli çoğu işte insanlara üstün gelebilecek özerk sistemler olarak tanımlıyor.

OpenAI’dan adının açıklanmaması şartıyla konuşan bir kaynağa göre yeni model, geniş kapsamlı hesaplama kaynakları göz önünde bulundurulduğunda, bazı matematik problemlerini çözebiliyor. Kaynak, Q*’ın sadece ilkokul düzeyindeki matematik problemlerini çözse de bu tür problemlerin yer aldığı sınavları hatasız olarak geçmesinin, araştırmacıların, projenin gelecekteki başarısı hakkında çok iyimser olmasını sağladığını söyledi.

Reuters, araştırmacıların Q*’ın becerilerine ilişkin iddialarını bağımsız kaynaklardan doğrulatamadı.

Matematiksel işlem yapma becerisi ne aşamada?

Araştırmacılar, matematiğin üretken yapay zeka teknolojisinin geliştirilmesinde bir sınır olarak kabul ediyor. Üretken yapay zeka, şu anda metin yazmada ve bir sonraki kelimeyi istatistiksel açıdan tahmin ederek dil çevirisi yapmada iyi performans sergiliyor.

Aynı soruya verilen yanıtlarsa büyük farklılık gösterebiliyor. Ancak sadece tek doğru yanıtın olduğu matematiksel işlem yapma becerisini elde etmek, yapay zekanın insan zekasına benzeyen muhakeme becerisi elde etmesi anlamına geliyor. Yapay zeka araştırmacıları, bunun yeni bilimsel araştırmalara uygulanabileceğini söylüyor.

Sınırlı sayıda matematik işlemi yapabilen hesap makinesinin aksine yapay genel zeka genelleme yapabiliyor, öğrenebiliyor ve kavrayabiliyor.

Araştırmacılar, OpenAI yönetim kuruluna yazdıkları mektupta, yapay zekanın gücü ve olası tehlikeleri hakkında uyarıda bulundu. Kaynaklar, mektupta hangi güvenlik kaygılarına yer verildiğini tam olarak belirtmedi.

“Yapay zeka bilim ekibi”

Yazılım mühendisleri, yüksek zeka kapasiteli makinelerin oluşturduğu tehlike konusunda uzun zamandır tartışıyor. Bu tartışmalardan biri, ileri zekaya sahip makinaların insanlığı yok etmesinin kendi çıkarlarına olduğuna karar verip veremeyeceğiyle ilgili.

Araştırmacılar ayrıca bir “yapay zeka bilim ekibinin” yürüttüğü çalışmalara da dikkat çekti. Ekibin varlığı, birkaç kaynak tarafından doğrulandı.

Daha önce kurulan “Code Gen” ve “Math Gen” adlı iki ekibin birleştirilmesiyle oluşturulan yeni grup, kaynaklardan birine göre, muhakeme becerisini geliştirmesi ve nihai olarak bilimsel çalışma yürütmesi için mevcut yapay zeka modellerinin en iyi şekilde nasıl kullanılacağının yollarını bulmaya çalışıyordu.

Sam Altman, ChatGPT’yi insanlık tarihinin en hızlı büyüyen yazılım uygulamalarından biri haline getirmek ve yapay genel zekayı geliştirmede Microsoft’tan gerekli yatırımı ve hesaplama kaynaklarını çekmek için yürütülen çabalara öncülük ediyordu.

Bu ay yeni aygıtları tanıtan Altman, geçen hafta da San Francisco’da düzenlenen Asya-Pasifik Ekonomik İşbirliği (APEC) zirvesine katılan liderlere büyük gelişmelerin yakın olduğuna inandığını söylemişti.

Altman, “OpenAI’ın tarihinde dört kez, ki en yenisi sadece birkaç hafta önceydi, cehalet perdesini kaldırıp keşif sınırını ileri götürdüğümüz bir ortamda bulundum. Bu, hayatta elde edilebilecek en yüksek profesyonel onurdur” demiş; bu sözlerinden bir gün sonraysa OpenAI yönetim kurulu, Altman’ı görevden almıştı.

VOA tarafından geçilen “OpenAI araştırmacıları Sam Altman görevden alınmadan önce yönetim kurulunu uyardı” haberinde ha-ber.com editörlerinin hiçbir editoryal müdahalesi yoktur. “OpenAI araştırmacıları Sam Altman görevden alınmadan önce yönetim kurulunu uyardı” haberi web sayfamıza otomatik olarak VOA sitesinden geldiği şekliyle yer almaktadır. Bu alanda yer alan “OpenAI araştırmacıları Sam Altman görevden alınmadan önce yönetim kurulunu uyardı” haberinin hukuki muhatabı haberi geçen web siteleri ve ajanslardır.