ChatGPT nasıl daha iyi olmaya devam ediyor, ancak hala mükemmel olmaktan uzak?Her soruya yanıt verirken insan davranışını taklit eder ve bir chatbottur. yapay sinir ağı. Bu şu anlama mı geliyor? ChatGPT bir sürü işle birlikte düşünmeyi de geçersiz mi kılacak yoksa bilgi arayışını bir sonraki aşamaya taşımaya hazır mı? Richa Gandi gelişimini takip eder.
İnterneti kasıp kavurduktan sonraki aylar içinde ChatGPT, önceki yinelemeden daha iyi eğitilmiş ve daha akıllı olduğu söylenen bir “artı” sürümle övünür. Bu sürüm, GPT-3. 5, lansmanından sonraki bir hafta içinde 1 milyon kullanıcıya ulaşarak önceki tüm kullanıcı rekorlarını kırmıştı. Arkasındaki teknoloji yapay zeka chatbot, yaygın bir ilgi uyandıran bir bottur ve Google da dahil olmak üzere birçok teknoloji şirketi benzer ürünler üzerinde çalışmaktadır. Ama nasıl çalışıyorlar?
GPT ChatGPT’de Generative Pre-Trained Transformer anlamına gelir. ChatGPT, büyük dil modeli (LLM) GPT-3 üzerine kurulmuştur. 5 ayrıntılı bir yanıtla bir istemi yanıtlamak için eğitildi. Bir konuşma biçiminde etkileşime girer. Diyalog biçimi, ChatGPT’nin takip eden sorulara yanıt vermesine, hataları kabul etmesine, yanlış varsayımlara meydan okumasına ve uygunsuz istekleri reddetmesine olanak tanır. Bu, insan benzeri metinler oluşturan, derin öğrenmeye dayalı otoregresif bir dil modelidir – hatalarından ders çıkarabileceği anlamına gelir. Modelin kritik derin öğrenme yöntemleri, yönlendirilmiş öğrenmeyi ve insan geri bildirimi artırıcı öğrenmeyi içerir. Kullanıcının daha önce girdiği cevapları kullanarak bir sonraki cevabını oluşturur. Kullanıcılar tarafından yeni fikirler üretmek için kullanılabilir.
Tamamen kusursuz değil
➤ ChatGPT bazen kulağa makul gelen ancak yanlış veya anlamsız cevaplar yazar.
➤ ChatGPT, giriş cümlesi ayarlamalarına veya aynı istemi birden çok kez denemeye duyarlıdır. Örneğin, bir sorunun tek bir formülasyonu ile model, cevabı bilmediğini iddia edebilir, ancak küçük bir yeniden formülle doğru cevap verebilir.
➤ Model genellikle aşırı derecede ayrıntılıdır ve OpenAI tarafından eğitilmiş bir dil modeli olduğunu tekrarlamak gibi belirli cümleleri aşırı kullanır. Bu sorunlar, eğitim verilerindeki önyargılardan (eğitmenler daha kapsamlı görünen daha uzun yanıtları tercih eder) ve bilinen aşırı optimizasyon sorunlarından kaynaklanır.
➤ İdeal olarak, ChatGPT modeli, kullanıcı belirsiz bir soru sorduğunda açıklayıcı sorular sorar. Bunun yerine ChatGPT-4 modeli, kullanıcının ne demek istediğini tahmin etmeye programlanmıştır.
➤ Şirket, modelin uygunsuz istekleri reddetmesi için çaba gösterse de, bazen kötü niyetli talimatlara yanıt verir veya önyargılı davranışlar sergiler. Belirli güvenli olmayan içerik türlerini uyarmak veya engellemek için bir araç (Denetim API’sı) kullanır, ancak şimdilik bazı yanlış negatifler ve pozitifler beklemektedir.
➤ Yeteneklerine rağmen GPT-4, önceki GPT modellerine benzer sınırlamalara sahiptir. En önemlisi, hala tamamen güvenilir değildir (gerçekleri “halüsinasyona uğratır” ve mantık hataları yapar).
➤ GPT-4 yaygın ifadeleri yanlış yorumlayabilir. Örneğin, “yaşlı bir köpeğe yeni numaralar öğretemezsin” ifadesini tam anlamıyla alabilir.
ZA, LSAT? Sorun değil
Gündelik konuşmada, GPT-3 arasındaki fark. 5 ve GPT-4 incelikli olabilir. Fark, görevin karmaşıklığı yeterli bir eşiğe ulaştığında ortaya çıkar – GPT-4 daha güvenilirdir, daha yaratıcıdır ve GPT-3’ten çok daha incelikli talimatları işleyebilir. 5.
OpenAI, orijinal olarak insanlar için oluşturulan sınavları simüle etmek de dahil olmak üzere aralarındaki farkları anlamak için iki modeli bir dizi kıyaslama yoluyla değerlendirdi ve ChatGPT-4’ün önceki sürümden daha iyi performans gösterdiğini bildirdi.
Şirket ayrıca, ChatGPT-4’ün derinlemesine hukuk bilgisi, okuduğunu anlama ve yazma becerileri gerektiren bir baro sınavında (kutuya bakın) haksız fiil dışında her konuda ortalama bir öğrenciden daha yüksek puan aldığını ve bunun da büyük dil modellerinin başarılı olabildiğini gösterdiğini söyledi. neredeyse tüm ABD yetki alanlarındaki insan avukatlarla aynı düzeyde beceri.
İstismar odası
Siber Güvenlik: ChatGPT’nin casus yazılım üretebilmesi aslında endişe vericidir. Kötü amaçlı yazılımın yeni bir şey olduğu için değil, ChatGPT’nin bu işlevi süresiz olarak çalıştırabileceği için. Herkes uygulamayı kötü amaçlı yazılım kodu oluşturmak için kullanabilir ve ardından bu kodu tespit edilmesini veya durdurulmasını zorlaştıracak şekilde değiştirebilir.
Kimlik avı ve dolandırıcılık: İdeal AI kimlik avı için yazma aracı ChatGPT olacaktır. Kimlik avı mesajlarındaki bozuk dil genellikle bunların fark edilmesini kolaylaştırır, ancak ChatGPT bunların hepsini düzeltebilir. Bu, uygulama için oldukça açık bir kullanım durumudur.
Okullarda/üniversitelerde kopya çekmek: Bunun olma olasılığı daha yüksek olsa da, daha az korkutucu olabilir. Herhangi bir şey hakkında metin oluşturmak için kullanılabilecek bir araç, sınıfta kopya çekmeye çalışan bir öğrenci için mükemmeldir ve profesörlerin bunu yapan birini gerçekten bulmasını zorlaştırır.
İçerik yazarı görevlerini devralın: Birisinin ChatGPT’den belirli bir konuda bir kitap yazmasını ve ardından bunu yayınlamasını istemesi intihal midir? Tartışma devam ederken, herkes bir bilgi istemi kullanabilir ve kullanım durumlarına göre içerik alabilir.
İşe Alım Görevlilerini Kandırmak: Bir danışmana göre ChatGPT, uygulama yazarken insanlardan %80 daha iyi performans gösterdi. ChatGPT’nin işe alım yöneticilerinin ilgisini çeken tüm temel ifadeleri nasıl etkili bir şekilde hedeflediğini veya daha büyük olasılıkla İK yazılımı tarafından kullanılan filtreleri nasıl aştığını görmek oldukça kolaydır.
İnterneti kasıp kavurduktan sonraki aylar içinde ChatGPT, önceki yinelemeden daha iyi eğitilmiş ve daha akıllı olduğu söylenen bir “artı” sürümle övünür. Bu sürüm, GPT-3. 5, lansmanından sonraki bir hafta içinde 1 milyon kullanıcıya ulaşarak önceki tüm kullanıcı rekorlarını kırmıştı. Arkasındaki teknoloji yapay zeka chatbot, yaygın bir ilgi uyandıran bir bottur ve Google da dahil olmak üzere birçok teknoloji şirketi benzer ürünler üzerinde çalışmaktadır. Ama nasıl çalışıyorlar?
GPT ChatGPT’de Generative Pre-Trained Transformer anlamına gelir. ChatGPT, büyük dil modeli (LLM) GPT-3 üzerine kurulmuştur. 5 ayrıntılı bir yanıtla bir istemi yanıtlamak için eğitildi. Bir konuşma biçiminde etkileşime girer. Diyalog biçimi, ChatGPT’nin takip eden sorulara yanıt vermesine, hataları kabul etmesine, yanlış varsayımlara meydan okumasına ve uygunsuz istekleri reddetmesine olanak tanır. Bu, insan benzeri metinler oluşturan, derin öğrenmeye dayalı otoregresif bir dil modelidir – hatalarından ders çıkarabileceği anlamına gelir. Modelin kritik derin öğrenme yöntemleri, yönlendirilmiş öğrenmeyi ve insan geri bildirimi artırıcı öğrenmeyi içerir. Kullanıcının daha önce girdiği cevapları kullanarak bir sonraki cevabını oluşturur. Kullanıcılar tarafından yeni fikirler üretmek için kullanılabilir.
Tamamen kusursuz değil
➤ ChatGPT bazen kulağa makul gelen ancak yanlış veya anlamsız cevaplar yazar.
➤ ChatGPT, giriş cümlesi ayarlamalarına veya aynı istemi birden çok kez denemeye duyarlıdır. Örneğin, bir sorunun tek bir formülasyonu ile model, cevabı bilmediğini iddia edebilir, ancak küçük bir yeniden formülle doğru cevap verebilir.
➤ Model genellikle aşırı derecede ayrıntılıdır ve OpenAI tarafından eğitilmiş bir dil modeli olduğunu tekrarlamak gibi belirli cümleleri aşırı kullanır. Bu sorunlar, eğitim verilerindeki önyargılardan (eğitmenler daha kapsamlı görünen daha uzun yanıtları tercih eder) ve bilinen aşırı optimizasyon sorunlarından kaynaklanır.
➤ İdeal olarak, ChatGPT modeli, kullanıcı belirsiz bir soru sorduğunda açıklayıcı sorular sorar. Bunun yerine ChatGPT-4 modeli, kullanıcının ne demek istediğini tahmin etmeye programlanmıştır.
➤ Şirket, modelin uygunsuz istekleri reddetmesi için çaba gösterse de, bazen kötü niyetli talimatlara yanıt verir veya önyargılı davranışlar sergiler. Belirli güvenli olmayan içerik türlerini uyarmak veya engellemek için bir araç (Denetim API’sı) kullanır, ancak şimdilik bazı yanlış negatifler ve pozitifler beklemektedir.
➤ Yeteneklerine rağmen GPT-4, önceki GPT modellerine benzer sınırlamalara sahiptir. En önemlisi, hala tamamen güvenilir değildir (gerçekleri “halüsinasyona uğratır” ve mantık hataları yapar).
➤ GPT-4 yaygın ifadeleri yanlış yorumlayabilir. Örneğin, “yaşlı bir köpeğe yeni numaralar öğretemezsin” ifadesini tam anlamıyla alabilir.
ZA, LSAT? Sorun değil
Gündelik konuşmada, GPT-3 arasındaki fark. 5 ve GPT-4 incelikli olabilir. Fark, görevin karmaşıklığı yeterli bir eşiğe ulaştığında ortaya çıkar – GPT-4 daha güvenilirdir, daha yaratıcıdır ve GPT-3’ten çok daha incelikli talimatları işleyebilir. 5.
OpenAI, orijinal olarak insanlar için oluşturulan sınavları simüle etmek de dahil olmak üzere aralarındaki farkları anlamak için iki modeli bir dizi kıyaslama yoluyla değerlendirdi ve ChatGPT-4’ün önceki sürümden daha iyi performans gösterdiğini bildirdi.
Şirket ayrıca, ChatGPT-4’ün derinlemesine hukuk bilgisi, okuduğunu anlama ve yazma becerileri gerektiren bir baro sınavında (kutuya bakın) haksız fiil dışında her konuda ortalama bir öğrenciden daha yüksek puan aldığını ve bunun da büyük dil modellerinin başarılı olabildiğini gösterdiğini söyledi. neredeyse tüm ABD yetki alanlarındaki insan avukatlarla aynı düzeyde beceri.
İstismar odası
Siber Güvenlik: ChatGPT’nin casus yazılım üretebilmesi aslında endişe vericidir. Kötü amaçlı yazılımın yeni bir şey olduğu için değil, ChatGPT’nin bu işlevi süresiz olarak çalıştırabileceği için. Herkes uygulamayı kötü amaçlı yazılım kodu oluşturmak için kullanabilir ve ardından bu kodu tespit edilmesini veya durdurulmasını zorlaştıracak şekilde değiştirebilir.
Kimlik avı ve dolandırıcılık: İdeal AI kimlik avı için yazma aracı ChatGPT olacaktır. Kimlik avı mesajlarındaki bozuk dil genellikle bunların fark edilmesini kolaylaştırır, ancak ChatGPT bunların hepsini düzeltebilir. Bu, uygulama için oldukça açık bir kullanım durumudur.
Okullarda/üniversitelerde kopya çekmek: Bunun olma olasılığı daha yüksek olsa da, daha az korkutucu olabilir. Herhangi bir şey hakkında metin oluşturmak için kullanılabilecek bir araç, sınıfta kopya çekmeye çalışan bir öğrenci için mükemmeldir ve profesörlerin bunu yapan birini gerçekten bulmasını zorlaştırır.
İçerik yazarı görevlerini devralın: Birisinin ChatGPT’den belirli bir konuda bir kitap yazmasını ve ardından bunu yayınlamasını istemesi intihal midir? Tartışma devam ederken, herkes bir bilgi istemi kullanabilir ve kullanım durumlarına göre içerik alabilir.
İşe Alım Görevlilerini Kandırmak: Bir danışmana göre ChatGPT, uygulama yazarken insanlardan %80 daha iyi performans gösterdi. ChatGPT’nin işe alım yöneticilerinin ilgisini çeken tüm temel ifadeleri nasıl etkili bir şekilde hedeflediğini veya daha büyük olasılıkla İK yazılımı tarafından kullanılan filtreleri nasıl aştığını görmek oldukça kolaydır.