Unicode और UTF-8 क्या हैं?
Unicode हर लिपि के हर कैरेक्टर को एक नंबर (कोड पॉइंट, जैसे अरबी अलिफ़ के लिए U+0627) देता है; UTF-8 वह एन्कोडिंग है जो उन नंबरों को एक से चार बाइट में बदलती है और वेब व JSON में डिफ़ॉल्ट है। ज़्यादातर "टूटे टेक्स्ट" वाले बग या तो UTF-8 बाइट सीक्वेंस का किसी और एन्कोडिंग में पढ़ा जाना हैं, या स्ट्रिंग का बाइट में गिना जाना जहाँ प्रोग्राम कैरेक्टर की उम्मीद करता था।
Unicode डेटासेट जनरेटर कैसे इस्तेमाल करें
- श्रेणियाँ लिखें (या "all")।
- और ज़्यादा मात्रा चाहिए तो रैंडम मिली-जुली स्ट्रिंग जोड़ें।
- Generate दबाएँ और लंबाई वाले कॉलम की तुलना उससे करें जो आपका सिस्टम स्टोर करता है।
Unicode डेटासेट जनरेटर की खूबियाँ
- 18 श्रेणियाँ: लैटिन डायाक्रिटिक, अरबी, देवनागरी, CJK, सिरिलिक, यूनानी, हिब्रू, थाई, emoji, संयोजक चिह्न, NFC/NFD जोड़े, surrogate pair, bidi कंट्रोल, zero-width, homoglyph, मिली-जुली लिपियाँ, case mapping और fullwidth रूप
- हर पंक्ति में: escape किया हुआ रूप, code point, UTF-16 यूनिट, UTF-8 बाइट, grapheme और NFC = NFD फ़्लैग
- चुनी हुई श्रेणियों के सैंपल मिलाकर बनी अतिरिक्त रैंडम स्ट्रिंग
- सारांश में एक से ज़्यादा यूनिट वाले grapheme की गिनती
- seed लगाया जा सकता है; JSON, CSV, SQL, XML, JSON Lines या तालिका आउटपुट
Unicode डेटासेट जनरेटर का उदाहरण
परिवार वाला emoji
इनपुट:
Categories: emojiआउटपुट:
text,codePoints,utf16Units,utf8Bytes,graphemes
👨👩👧👦,7,11,25,1Unicode डेटासेट जनरेटर के बारे में अक्सर पूछे जाने वाले सवाल
हर पंक्ति मुझे क्या बताती है?
टेक्स्ट, उसका escape किया हुआ रूप, code point, UTF-16 यूनिट, UTF-8 बाइट और उपयोगकर्ता को दिखने वाले grapheme की संख्या, और यह कि NFC तथा NFD रूप एक जैसे हैं या नहीं — लंबाई और normalisation के बग पकड़ने के लिए ज़रूरी सब कुछ।
कौन-सी लिपियाँ और केस शामिल हैं?
डायाक्रिटिक वाली लैटिन, अरबी, देवनागरी, CJK, सिरिलिक, यूनानी, हिब्रू, थाई, emoji तथा ZWJ अनुक्रम, संयोजक चिह्न, NFC/NFD जोड़े, surrogate pair, bidi कंट्रोल, zero-width कैरेक्टर, homoglyph, मिली-जुली लिपियाँ, case-mapping के edge case और fullwidth रूप।
क्या मैं रैंडम मिली-जुली स्ट्रिंग भी बना सकता हूँ?
हाँ — तय करें कि चुनी हुई श्रेणियों के रैंडम सैंपल से कितनी अतिरिक्त स्ट्रिंग बनानी हैं और हर एक में कितने सैंपल मिलाने हैं।
संदर्भ
- The Unicode Standardसार्वभौमिक कैरेक्टर सेट और उसके एन्कोडिंग रूप (UTF-8, UTF-16, UTF-32), नॉर्मलाइज़ेशन और हर कोड पॉइंट के गुण।
- RFC 3629: UTF-8, a transformation format of ISO 10646UTF-8 में कोड पॉइंट एक से चार बाइट में कैसे एन्कोड होते हैं, और कौन-सी बाइट सीक्वेंस अमान्य हैं।
- RFC 4180: Common Format and MIME Type for Comma-Separated Values (CSV) FilesCSV के आम नियम: कॉमा सेपरेटर, CRLF लाइन एंड, और कॉमा, कोट या लाइन ब्रेक वाले फ़ील्ड की क्वोटिंग।
- Personal Data Protection Law (English translation)व्यक्तिगत डेटा पर सऊदी कानून — टेस्ट वातावरण में असली ग्राहक रिकॉर्ड की प्रतियों के बजाय सिंथेटिक डेटा क्यों इस्तेमाल करना चाहिए।