İstem mühendisliği nedir?

Üretici yapay zekanın kullanıma sunulmasından bu yana istem mühendisliği işleri önemli ölçüde arttı. İstem mühendisleri, son kullanıcılarınız ile büyük dil modeli arasındaki boşluğu doldururlar. Kullanıcılarınızın dil modellerinden en iyi sonucu almak için özelleştirebileceği ve tamamlayabileceği komut dosyalarını ve şablonları tanımlarlar. Bu mühendisler, uygulama geliştiricilerin farklı senaryolarda yeniden kullanabilecekleri bir istem kitaplığı oluşturmak için farklı girdi türlerini denerler.

İstem mühendisliği, yapay zeka uygulamalarını daha verimli ve etkili hale getirir. Uygulama geliştiricileri, açık uçlu kullanıcı girdisini yapay zeka modeline geçirmeden önce genellikle bir istem içine yerleştirirler.

Örneğin, yapay zeka chatbotlarını düşünün. Bir kullanıcı, "Gömlek alınacak yerler" gibi eksik bir problem ifadesi girebilir. Dahili olarak, uygulamanın kodu şöyle yazan bir tasarlanmış istem kullanır: "Bir giyim şirketinde satış asistanısınız. ABD, Alabama'da yer alan bir kullanıcı size nereden bir gömlek satın alabileceğini soruyor. Mevcut durumda gömlek stoku bulunan en yakın üç mağaza konumuyla yanıt verin." Sohbet robotu, ardından daha alakalı ve doğru bilgiler üretir.

Bir sonraki aşamada, istem mühendisliğinin bazı avantajlarını ele alıyoruz.

Daha fazla geliştirici denetimi

İstem mühendisliği, geliştiricilere kullanıcıların yapay zeka ile etkileşimleri üzerinde daha fazla denetim sağlar. Etkili istemler niyet sağlar ve büyük dil modellerine bağlam oluşturur. Yapay zekanın çıktıyı iyileştirmesine ve gereken biçimlendirmeyle kısaca sunmasına yardımcı olurlar.

Ayrıca, kullanıcılarınızın yapay zekayı kötüye kullanmasını veya yapay zekanın bilmediği ya da doğru bir şekilde işleyemediği bir şey talep etmesini önlerler. Örneğin, kullanıcılarınızın bir işletme yapay zeka uygulamasında uygunsuz içerik oluşturmasını sınırlamak isteyebilirsiniz.

Geliştirilmiş kullanıcı deneyimi

Kullanıcılar deneme yanılma durumundan kaçınır ve yine de yapay zeka araçlarından tutarlı, doğru ve alakalı yanıtlar alır. İstem mühendisliği, kullanıcıların ilk istemde ilgili sonuçları elde etmesini kolaylaştırır. Büyük dil modellerinin eğitim verilerinde mevcut olan insan önyargısından kaynaklanan sapmayı azaltmaya yardımcı olur.

Ayrıca, kullanıcı-yapay zeka etkileşimini geliştirir ve böylece yapay zeka, minimum girdiyle bile kullanıcının niyetini anlar. Örneğin, yasal bir belgeyi ve bir haber makalesini özetleme istekleri, stil ve ton için ayarlanmış farklı sonuçlar getirir. Her iki kullanıcı da uygulamaya "Bu belgeyi özetle" dese de bu geçerlidir.

Artan esneklik

Daha yüksek soyutlama seviyeleri, yapay zeka modellerini iyileştirir ve kuruluşların uygun ölçekte daha esnek araçlar oluşturmasına olanak tanır. Bir istem mühendisi, mantıksal bağlantıları ve geniş kalıpları vurgulayan etki alanı nötr talimatlarla istemler oluşturabilir. Kuruluşlar, yapay zeka yatırımlarını genişletmek için kuruluş genelindeki istemleri hızla yeniden kullanabilir.

Örneğin, süreç optimizasyonu için fırsatlar bulmak üzere istem mühendisi, bağlama özgü veriler yerine geniş sinyaller kullanarak verimsizlikleri bulacak şekilde yapay zeka modelini eğiten farklı istemler oluşturabilir. İstemler daha sonra çeşitli süreçler ve iş birimleri için kullanılabilir.

İstem mühendisliği dinamik ve gelişen bir alandır. İstemlere ince ayar yapmak ve üretici yapay zeka araçlarından istenen yanıtı elde etmek için hem dilsel beceriler hem de yaratıcı ifade gerektirir.

İstem mühendislerinin, yapay zeka modellerinin doğal dil işleme (NLP) görevlerini geliştirmek için kullandıkları tekniklerin bazı örnekleri aşağıda verilmiştir.

Düşünce zinciri yönlendirmesi

Düşünce zinciri yönlendirmesi, karmaşık bir soruyu bir düşünce trenini taklit eden daha küçük, mantıksal parçalara bölen bir tekniktir. Bu, modelin soruyu doğrudan yanıtlamak yerine bir dizi ara adımda sorunları çözmesine yardımcı olur. Bu, akıl yürütme yeteneğini artırır.

Karmaşık görevler için birden çok düşünce zinciri sunuşu gerçekleştirebilir ve en sık ulaşılan sonucu seçebilirsiniz. Sunuşlar arasında önemli ölçüde fark varsa düşünce zincirini düzeltmek için bir kişiye danışılabilir.

Örneğin, soru "Fransa'nın başkenti nedir?" ise model "Paris", "Fransa'nın başkenti Paris'tir" ve "Paris, Fransa'nın başkentidir" gibi yanıtlara yol açan birkaç sunuş yapabilir. Tüm sunuşlar aynı sonuca yol açtığından, nihai cevap olarak "Paris" seçilecektir.

Düşünce ağacı yönlendirmesi

Düşünce ağacı tekniği, düşünce zinciri yönlendirmesini genelleştirir. Modelden bir veya daha fazla olası sonraki adımı oluşturmasını ister. Ardından, bir ağaç arama yöntemi kullanarak modeli her bir olası sonraki adımda çalıştırır.

Örneğin, soru "İklim değişikliğinin etkileri nelerdir?" ise model ilk önce "Çevresel etkileri listele" ve "Sosyal etkileri listele" gibi olası sonraki adımları oluşturabilir. Ardından, sonraki adımlarda bunların her birini detaylandıracaktır.

Maiotik yönlendirme

Maiotik yönlendirme, düşünce ağacı yönlendirmeye benzer. Modelden bir soruya açıklama ile cevap vermesi istenir. Modelden daha sonra açıklamanın bazı kısımlarını açıklaması istenir. Tutarsız açıklama ağaçları budanır veya atılır. Bu, karmaşık sağduyu muhakemesi üzerindeki performansı artırır.

Örneğin, soru "Gökyüzü neden mavi?" ise model ilk olarak şöyle cevap verebilir: "Gökyüzü insan gözüne mavi görünür çünkü mavi ışığın kısa dalgaları, Dünya atmosferindeki gazlar ve parçacıklar tarafından her yöne dağılır." Daha sonra, mavi ışığın neden diğer renklerden daha fazla dağıldığı ve Dünya atmosferinin nelerden oluştuğu gibi bazı açıklama kısımlarını genişletebilir.

Karmaşıklığa dayalı yönlendirme

Bu istem mühendisliği tekniği, birkaç düşünce zinciri sunuşunun gerçekleştirilmesini içerir. En uzun düşünce zincirlerine sahip sunuşları ve ardından en sık ulaşılan sonucu seçer.

Örneğin, soru karmaşık bir matematik problemiyse model her biri birden çok hesaplama adımını içeren birkaç sunuş gerçekleştirir. Teknik, en uzun düşünce zincirine sahip sunuşları dikkate alacaktır. Bu örnek en fazla hesaplama adımını içerecektir. Diğer sunuşlarla ortak bir sonuca ulaşan sunuşlar nihai yanıt olarak seçilecektir.

Oluşturulan bilgi yönlendirme

Bu teknik, modeli önce istemi tamamlamak için gereken ilgili unsurları oluşturmaya yönlendirmeyi içerir. Ardından istemi tamamlama adımına geçer. Model ilgili unsurlara göre koşullandırıldığı için bu genellikle daha yüksek tamamlama kalitesi ile sonuçlanır.

Örneğin, bir kullanıcının modelden ormanların yok olmasının etkileri hakkında bir makale yazmasını istediğini hayal edin. Model ilk olarak "ormanların yok olması iklim değişikliğine katkıda bulunur" ve "ormanların yok olması biyolojik çeşitlilik kaybına yol açar" gibi unsurlar oluşturabilir. Ardından makaledeki noktaları açıklayacaktır.

En azdan en çoğa yönlendirme

Bu istem mühendisliği tekniğinde, modelden önce bir problemin alt problemlerini listelemesi ve ardından bunları sırayla çözmesi istenir. Bu yaklaşım, daha sonraki alt problemlerin önceki alt problemlere verilen cevaplar yardımıyla çözülebilmesini sağlar.

Örneğin, bir kullanıcının modele "2x + 3 = 11 denkleminde x'i bul" gibi bir matematik problemi sorduğunu hayal edin. Model ilk olarak alt problemleri "Her iki taraftan da 3 çıkar" ve "2'ye böl" şeklinde listeler. Daha sonra nihai cevabı almak için bunları sırayla çözer.

Kendi kendini iyileştiren yönlendirme

Bu teknikte model, problemi çözmeye, çözümünü eleştirmeye ve ardından problemi, çözümü ve eleştiriyi dikkate alarak problemi yeniden çözmeye yönlendirilir. Problem çözme süreci, durmak için önceden belirlenmiş bir nedene ulaşana kadar tekrar eder. Örneğin, belirteç veya zaman tükenebilir ya da model çıktı olarak bir durdurma belirteci verebilir.

Örneğin, bir kullanıcının modelden "Edebiyat üzerine kısa bir makale yaz" isteğinde bulunduğunu varsayalım. Model bir makale taslağı hazırlayabilir, belirli örneklerin eksikliği nedeniyle taslağı eleştirebilir ve makaleyi söz konusu eksik örnekleri dahil edecek şekilde yeniden yazabilir. Bu süreç, makale tatmin edici bulunana veya bir durdurma kriteri karşılanana kadar tekrarlanacaktır.

Yönsel uyarıcı yönlendirmesi

Bu istem mühendisliği tekniği, dil modelini istenen çıktıya doğru yönlendirmek üzere istenen anahtar kelimeler gibi bir ipucu veya işaret içerir.

Örneğin, aşk hakkında bir şiir yazılması istemi varsa istem mühendisi "kalp", "tutku" ve "ebedi" kelimelerini içeren istemler oluşturabilir. Modelden "Aşk hakkında olan ve 'kalp', 'tutku' ve 'ebedi' kelimelerini içeren bir şiir yazması" istenebilir. Bu, modeli bu anahtar kelimelerle bir şiir oluşturmaya yönlendirecektir.

Amazon Web Services (AWS), üretici yapay zeka oluşturmak ve kullanmak için gereken araç seti genişliğine ve derinliğine sahiptir. Örneğin şu hizmetleri kullanabilirsiniz:

• Yorumlarınıza ve mevcut kodunuza göre parçacıklardan tam işlevlere kadar uzanan, gerçek zamanlı kod önerileri oluşturan Amazon Q Developer.
• Altyapıyı yönetmeden, bir API aracılığıyla dil modellerini kullanarak üretici yapay zeka uygulamalarının geliştirilmesini hızlandıran Amazon Bedrock.
• Açık kaynaklı dil modellerini bulmak, keşfetmek ve dağıtmak için Amazon SageMaker JumpStart. Örneğin OpenLLaMA, RedPajama, MosaicML'nin MPT-7B, FLAN-T5, GPT-NeoX-20B ve BLOOM gibi modelleriyle çalışabilirsiniz.

Kendi modellerinizi oluşturmayı tercih ediyorsanız Amazon SageMaker'ı kullanın. Ölçeklenebilir, güvenilir ve güvenli model oluşturma, eğitme ve dağıtma işlemlerini hızlandırmak için yönetilen altyapı ve araçlar sağlar.

Hemen bir hesap oluşturarak AWS'de istem mühendisliğine başlayın.