İSTEM MÜHENDİSLİĞİNİN BÜYÜK DİL MODELLERİNİN PERFORMANSINDAKİ ROLÜ: ANALİZ VE UYGULAMA ÖRNEKLERİ
- 3 December 2024
- journal article
- Published by Kahramanmaras Sutcu Imam University Journal of Engineering Sciences in Kahramanmaraş Sütçü İmam Üniversitesi Mühendislik Bilimleri Dergisi
- Vol. 27 (4) , 1401-1420
Abstract
İstem mühendisliği, büyük dil modellerinin yeteneklerini artırmak için kritik bir teknik olarak ortaya çıkmıştır. İstem adı verilen talimatlar ile model parametrelerini değiştirmeden ince ayar yapma imkânı sunarak, bu modellerin çeşitli görevlerde üstün performans göstermesini sağlar. Bu çalışmanın temel amacı, büyük dil modeli performansını iyileştirmek, hesaplama maliyetlerini azaltmak ve kullanıcı deneyimini geliştirmek için istem mühendisliğinin nasıl etkili kullanılacağını göstermektir. Çalışmada, farklı uygulama alanlarına göre kategorize edilen ve son teknoloji 15 istem mühendisliği tekniği analiz edilmiştir. Bu teknikler, sıfır atış ve birkaç atış istemlerinden düşünce zinciri ve otomatik düşünce zinciri istemlerine kadar çeşitlilik göstermektedir. Her bir tekniğin avantajları ve dezavantajları detaylı olarak değerlendirilmiş ve performans artışının nasıl sağlandığı örnek senaryolarla gösterilmiştir. Araştırmanın sonuçları, istem mühendisliğinin büyük dil modellerinin çeşitli görev ve uygulamalarda performansını artırmada önemli bir rol oynadığını göstermektedir. Özellikle az verili öğrenme senaryolarında verimliliği artırmak ve önyargı, tutarsızlık gibi zorlukları azaltmak için yenilikçi istem mühendisliği tekniklerinin başarılı performans sergiledikleri görülmüştür. Bu bulgular, araştırmacılar ve uygulayıcılar için yol gösterici bir kaynak olarak hizmet edecek ve büyük dil modellerinin geniş çapta uygulanabilirliğini artıracaktır. Çalışmamız, istem mühendisliğinin daha iyi anlaşılmasına katkı sağlayacak ve gelecekteki araştırmalara ışık tutacaktır.Keywords
This publication has 12 references indexed in Scilit:
- Magic of Prompt Engineering2024
- LLaMA-LoRA Neural Prompt Engineering: A Deep Tuning Framework for Automatically Generating Chinese Text Logical Reasoning Thinking ChainsData Intelligence, 2024
- How understanding large language models can inform the use of ChatGPT in physics educationEuropean Journal of Physics, 2024
- ChatGPT4PCG Competition: Character-like Level Generation for Science Birds2023
- Plain Template Insertion: Korean-Prompt-Based Engineering for Few-Shot LearnersIEEE Access, 2022
- Learning to Prompt for Vision-Language ModelsInternational Journal of Computer Vision, 2022
- A survey of few-shot learning in smart agriculture: developments, applications, and challengesPlant Methods, 2022
- Template-free Prompt Tuning for Few-shot NER2022
- Generated Knowledge Prompting for Commonsense Reasoning2022
- The Power of Scale for Parameter-Efficient Prompt Tuning2021