ग़ज़ल का फ़न अपने पढ़ने और सुनने वालों से जिस चीज़ का सबसे ज़्यादा तक़ाज़ा (माँग) करता है, वह है ज़बान की रवानी, मिठास और बे-साख़्तगी (स्वाभाविकता)। यह बे-साख़्तगी कोई इत्तेफ़ाक़ी चीज़ नहीं होती, बल्कि यह एक लंबी और कठिन रियाज़त (अभ्यास) का नतीजा होती है। ग़ज़ल की ज़बान का उसके फ़न से बहुत गहरा और अटूट रिश्ता है। मौज़ू (विषय) के हिसाब से अल्फ़ाज़ का चुनाव ग़ज़ल कहने वाले शायर की सबसे बड़ी आज़माइश होती है।
उर्दू ग़ज़ल के विकास के सफ़र में ज़बान को लेकर अलग-अलग रवैये सामने आए। एक तरफ़ ज़ौक़ जैसे शायर थे जिन्होंने मुहावरों और 'सोए हुए इस्तेआरों' (रूपकों) पर भरोसा किया, जिसे ग़ालिब ने 'पंचायती शायरी' क़रार देकर ख़ारिज कर दिया। ग़ालिब ने अपनी सोच की उड़ान और नए अर्थ पैदा करने के लिए फ़ारसी तरकीबों का सहारा लिया। इसी तरह अल्लामा इक़बाल ने भी ग़ज़ल को 'गंजीना-ए-मानी का तिलिस्म' (अर्थ के ख़ज़ाने का जादू) बनाने के लिए फ़ारसी मिली हुई ज़बान इस्तेमाल की और ग़ज़ल के प्रचलित आदाब में रहते हुए दार्शनिक विषय बाँधे।
हालाँकि, ग़ज़ल की ज़बान के हवाले से यह बहस हमेशा रही है कि क्या इसमें हिंदी अल्फ़ाज़ की अधिकता होनी चाहिए या फ़ारसी तरकीबों की। कुछ आलोचकों का मानना है कि अच्छी ग़ज़ल वह है जिसमें 'नग़्मा-ए-हिंदी' की गूँज ज़्यादा हो। आरज़ू लखनवी ने फ़ारसी इज़ाफ़तों (का, की, के वाले फ़ारसी जोड़) को छोड़कर शुद्ध हिंदी अल्फ़ाज़ में ग़ज़लें कहीं, जबकि दूसरी तरफ़ कुछ शायरों ने फ़ारसी तरकीबों की भरमार कर दी। आलोचनात्मक निगाह से देखा जाए तो ये दोनों रवैये अतिवाद की मिसालें हैं।
ग़ज़ल की ज़बान का बेहतरीन और मिसाली नमूना मीर तक़ी मीर के यहाँ मिलता है, जहाँ हिंदी की सादगी और फ़ारसी की शान-ओ-शौकत एक-दूसरे में इस तरह घुल-मिल जाती हैं कि पढ़ने वाले को किसी क़िस्म के अजनबी-पन या बोझिल-पन का एहसास नहीं होता। मीर का यह शेर इस संतुलन की शानदार मिसाल है:
कुछ न देखा फिर ब-जुज़ यक शोला-ए-पुर-पेच-ओ-ताब
शम्अ तक तो हमने देखा था कि परवाना गया
इस शेर के पहले मिसरे का आधा हिस्सा 'ब-जुज़ यक शोला-ए-पुर-पेच-ओ-ताब' पूरी तरह फ़ारसी तरकीब पर आधारित है, लेकिन दूसरे मिसरे की अत्यधिक सादगी, रवानी और हिंदी मिज़ाज की वजह से यह फ़ारसी तरकीब ज़रा भी नहीं खटकती। ग़ज़ल की ज़बान में वक़्त के साथ-साथ ख़ामोश बदलाव आते रहते हैं, जो इस बात का सुबूत हैं कि ग़ज़ल हर दौर की संवेदना और मिज़ाज को पेश कर सकती है। ग़ज़ल का अस्ल कमाल यही है कि वह ज़बान की पूरी विविधता को अपने अंदर समो कर एक ऐसा नग़्मा रचे जो सीधा दिल में उतर जाए।
