जनरेटिव प्री-ट्रेनड ट्रांसफॉर्मर (जी. पी. टी.) गहरी जानकारी हासल करने आह्ले माडलें दा इक वर्ग ऐ जेह्ड़ा इनपुट संकेतें दे अधार पर इन्सान जनेह् पाठ गी पैदा करने आस्तै ट्रांसफॉर्मर वास्तुकला दा फायदा उठाता ऐ। जी. पी. टी. एन. एल. पी. कम्में दी इक बड्डी श्रृंखला च श्रेष्ठ न, जेह्दे च पाठ सृजन, भाशा अनुवाद, भावना विश्लेषण ते होर केईं शामल न। पारंपरिक डेटा प्रीप्रोसैसिंग कम्म, जिʼयां के टोकनाइजेशन, स्टेमिंग ते लेमेटाइज़ेशन, समें लैने आह्ले ते संसाधन-भरपूर होई सकदे न।