जनरेटिव प्री-ट्रेनड ट्रांसफॉर्मर (जी. पी. टी.) गहन-शिक्षण मॉडलक एकटा वर्ग अछि जे इनपुट प्रॉम्प्टक आधार पर मानव सदृश पाठ उत्पन्न करबाक लेल ट्रांसफॉर्मर वास्तुकलाक लाभ उठबैत अछि। जी. पी. टी. एन. एल. पी. काजसभक एकटा विस्तृत श्रृंखलामे उत्कृष्टता प्राप्त करैत अछि, जाहिमे पाठ सृजन, भाषा अनुवाद, भावना विश्लेषण, आ बहुत किछु सम्मिलित अछि। पारम्परिक डेटा प्रीप्रोसेसिंग काज, जेना टोकनाइजेशन, स्टेमिंग, आ लेमेटाइज़ेशन, समय-खपत आ संसाधन-गहन भऽ सकैत अछि।