सामान्यतः पूछे जाने वाले प्रश्न:

इस टूल का उपयोग कौन कर सकेगा ?

हम आशा करते हैं कि इस टूल का उपयोग वह सब कर सकतें हैं जिनकी ट्विटर पर सक्रिय, मुखर उपस्थिति है और जिनको उनके लिंग और साथ ही साथ उनके धर्म, लैंगिकता और जाती के आधार पर टारगेट/लक्षित किया जाता है। अगर सहयोग रहा तो टूल यह टूल, आगे चलके, उन कई लोगों के लिए उपयोगी होना चाहिए जो ऑनलाइन लिंग आधारित हिंसा/oGBV का सामना करते हैं। आप संभावित फीचर्स की सूची दिए हुए लिंक पर देख सकते हैं [https://tinyurl.com/2p9bnefk] और कुछ और फीचर्स सुझा सकते हैं: uli_support@tattle.co.in

क्या यह टूल निःशुल्क होगा?

हाँ, टूल का उपयोग निःशुल्क होगा और बिना किसी पूर्व अनुमति के इसे अन्य हेट स्पीच और हिंसक कॉन्टेंट की पहचान करने के लिए बदला भी जा सकता है ।

हमें आपके ईमेल पते की आवश्यकता क्यों है?

आपके संग्रहीत ट्वीट्स को आपके ईमेल पते पर भेजने के लिए हमें आपके ईमेल पते की आवश्यकता है। हम यह भी सुनिश्चित करना चाहते हैं कि इनवोक नेटवर्क सुविधा का दुरुपयोग न हो। आपका ईमेल पता हमारी मदद करेगा…

संग्रह फीचर को लेके हमारी भविष्य की योजनाएं क्या हैं ?

भविष्य में, हम यौन और लैंगिक अल्पसंख्यकों को लक्षित करने वाले कॉन्टेंट का एक अज्ञात सार्वजनिक संग्रहालय बनाने की कोशिश करेंगे। हमें उम्मीद है कि यह संग्रहालय ऑनलाइन हिंसा पर बात चीत और उसके आस पास के मुद्दों पर आदान प्रदान बढ़ाने में रिसर्चरों , एक्टिविस्टों और वकीलों की मदद करेगा।

यह स्लर लिस्ट क्या है?

हमने आपत्तिजनक शब्दों और वाक्यांशों की एक सूची क्राउडसोर्स की जिसके इस्तेमाल से हमने ट्विटर पर कॉन्टेंट ढूंढा और एक विविध डेटासेट बनाया जिसका इस्तेमाल मशीन लर्निंग मॉडल को बनाने में हुआ। इस सूची का एक छोटा संस्करण, जिसमें आम तौर पर इस्तेमाल होने वाले भद्दे शब्द शामिल हैं, प्लगइन में जोड़ा गया ताकि कुछ सबसे अधिक इस्तेमाल किए जाने वाले शब्दों को आसानी से बिना मशीन लर्निंग की मदद के छिपाया जा सके।

हम चाहते हैं कि आप अपनी स्लर सूची से कुछ शब्द हटा दें क्योंकि यह आपत्तिजनक नहीं है:

हम समझते हैं कि स्लर सूची में कुछ ऐसे शब्द हो सकते हैं जो आपत्तिजनक रूप से उपयोग किए जाते हैं लेकिन उन्हें स्लर सूची में 'स्लर' के रूप में शामिल करना समस्याग्रस्त हो सकता है। अगर आपको लगता है कि किसी शब्द को गलत तरीके से एक गाली के रूप में जोड़ा गया है और इसे हमारी स्लर सूची से हटा दिया जाना चाहिए, तो आप हमें यहां उचित तर्क के साथ बता सकते हैं जो किसी अन्य हाशिए के समूह या समुदाय को ठेस नहीं पहुंचाता है।

क्या हम सूची में अन्य शब्द और वाक्यांश जोड़ सकते हैं?

हां, हमारी गालियों की सूची बिल्कुल भी विस्तृत नहीं है और ये शब्द हर दिन बदलते रहते हैं। आप हमारी स्लर सूची में और शब्द जोड़ सकते हैं और इसे विस्तारित करने में हमारी सहायता कर सकते हैं। जानिए कैसे

यह मॉडरेशन प्लेटफॉर्म के स्तर पर होगा या यूज़र्स के स्तर पर?

मॉडरेशन केवल यूज़र्स के स्तर पर होगा। प्लेटफार्म के स्तर पर होने वाले मॉडरेशन के बजाय हम यूज़र के स्तर पर होने वाले विकल्पों पर ध्यान देना चाहतें हैं

मशीन लर्निंग कैसे काम करती है?

डेटा की मात्रा अधिक होने पर निर्णय लेने को स्वचालित करने के लिए मशीन लर्निंग-आधारित दृष्टिकोण आमतौर पर उपयोग की जाने वाली तकनीक है। संक्षेप में कहें तो, मशीन लर्निंग मौजूदा डेटा में पैटर्न ढूंढकर भविष्य के प्रश्नों के लिए मूल्य निर्धारित करने का काम करता है। मशीन लर्निंग में एक एल्गोरिदम को क्या करना है, यह बताने के बजाय, एल्गोरिदम, पिछले, ट्रेनिंग डेटा के आधार पर यह पता लगाता है कि नए डाटा का क्या करना है।

लेकिन मशीन द्वारा लिया गया निर्णय कितना गलत हो सकता है, मुझे कई बार डी-प्लेटफॉर्म किया गया है!

हम समझतें हैं की मशीन से इस जटिल समस्या का आसान समाधान नहीं निकल सकता है। लेकिन, हम यह भी मानते हैं कि मशीन द्वारा मॉडरेशन तकनीक, जिसे ऑनलाइन यूज़र्स, एक्टिविस्ट्स, जो ऑनलइन हिंसा और हेट स्पीच का रोज़ सामना करते हैं, उनके जीवंत अनुभवों द्वारा बनाया जाए तो ऑनलाइन हिंसा और हेट स्पीच को कम करने में मदद मिल सकती है। अंग्रेजी में मशीन लर्निंग को लेके हमारे तरीके के बारे में अधिक जानने के लिए इस लिंक का उपयोग करें : coming soon

टूल मेरी ओर से क्या निर्णय लेगा?

टूल आपकी ओर से कोई निर्णय नहीं लेगा। मशीन लर्निंग (एमएल) केवल कुछ समस्याग्रस्त सामग्री/ कॉन्टेंट का पता लगा सकेगी। लेकिन केवल यूजर ही तय करेगा कि पहचानी गई समस्याग्रस्त सामग्री के साथ क्या करना चाहिए। उसको रिपोर्ट करना, संग्रहित करना, धुंधला करना, हटाना आदि का निर्णय केवल यूजर के हाथ में होगा।

मुझे आपका एमएल फीचर पसंद नहीं है, क्या हम इसके बिना भी टूल का उपयोग कर सकते हैं ?

चूंकि एमएल मॉडल अभी भी कार्य प्रगति पर है, हम समझते हैं कि यह अभी ठीख से काम नहीं करेगा। आप एमएल फीचर को स्विच ऑफ कर सकते हैं और टूल के बाकी फीचर्स का इस्तेमाल कर सकते हैं। एमएल फीचर को स्विच ऑफ करने का तरीका जानने के लिए यहां क्लिक करें।

आपके पास कस्टम स्लर फीचर है तो इस टूल के लिए एमएल मॉडल की आवश्यकता क्यों थी?

कस्टम सलूर लिस्ट फीचर हर तरह के कॉन्टेंट को मॉडरेट नहीं कर सकता और ऐसे कॉन्टेंट के लिए गैर-अंग्रेजी भाषाओं पर काम करने वाले आटोमेटिक कॉन्टेंट मॉडरेशन टूल की बहुत ज़रूरत है। हम इस मॉडल को अवधारणा के प्रमाण के रूप में विकसित करना चाहते थे जिसका उपयोग जिम्मेदार एल्गोरिथम डिजाइनों की मांग के लिए किया जा सकता है जो समुदायों की दिक्कतों को ध्यान में रख के बनाया जाये और गैर-अंग्रेजी भाषाओं में अधिक निवेश की ज़रूरत को चर्चा में ला सके।

मैं ओजीबीवी या एमएल/एआई पर कोई संसाधन कैसे साझा कर सकता हूं जिसे आप अपने टूल पर लिंक कर सकते हैं?

हिंदी भाषा में यदि आपके पास कोई भी संसाधन है जो ऑनलाइन हिंसा या एमएल/एआई को आम भाषा मे समझाने की कोशिश करता है तो हमें यहां बताएं। हम उसे टूल पर लिंक कर सकेंगे।

मेरे पास और प्रश्न हैं जिनका आपके अक्सर पूछे जाने वाले प्रश्नों कि सूचि में उत्तर नहीं है, हम आपसे और प्रश्न कैसे पूछ सकते हैं?

आप अपने प्रश्न हमें यहां बताएं और हम जल्द से जल्द उसका जवाब देने की कोशिश करेंगे।

आपने टूल के बाकी फीचर्स कैसे सोचे ?

आप टूल-डिज़ाइन और फ़ीचर सूची के बारे में यहाँ पढ़ सकते हैं: कार्यकर्ताओं, पत्रकारों, समुदाय आधारित संगठन के सदस्यों और हिंसा को झेलने वाले व्यक्तियों के साथ हमारी बातचीत के बाद विकसित फीचर सूची में से हमने कुछ फीचर्स को बनाने का निर्णय लिया। बाकी के फीचर्स जिनको हम नहीं बना सके उनकी सूचि यहाँ है : https://tinyurl.com/2p9bnefk

आप इस टूल को कैसे जीवित रखेंगे?

यह पायलट प्रोजेक्ट ओमिडयार नेटवर्क इंडिया के अनुदान से समर्थित है। इसी तरह की अन्य परियोजनाओं के अनुभव को देखते हुए, हम समझते हैं कि लंबी अवधि में उपयोगी बने रहने के लिए इस तरह की परियोजनाएं टिकाऊ होनी चाहिए। इसे ध्यान में रखते हुए, हमारा लक्ष्य टूल को इस तरह से डिजाइन करना है कि इसे लंबे समय में किफायती तरीके से प्रबंधित किया जा सके। यदि पायलट सफल होता है, तो हम इस परियोजना को चालू रखने के लिए सहयोग इकट्ठा करने पर ध्यान केंद्रित करेंगे।

डेटा संग्रह के लिए आपकी कार्यप्रणाली क्या है?

विविध डेटा सेट बनाने के लिए इस एक्सेल शीट को प्रसारित करना हमारी कार्यप्रणाली का एक हिस्सा है। इसके अलावा, हम एक्टिविस्ट्स और शोधकर्ताओं की एक अंतःविषय टीम हैं और हमारी कार्यप्रणाली में गुणात्मक और मात्रात्मक दोनों तरीके शामिल हैं। आप हमारी कार्यप्रणाली के बारे में अधिक पढ़ सकते हैं: coming soon

हम डेटा सेट और दिशानिर्देशों का उपयोग करना चाहते हैं जो एनोटेशन के लिए उपयोग किए गए थे, हम उन्हें कहां ढूंढ सकते हैं ?

पारदर्शिता बनाए रखने की कोशिश करते हुए , हमने अपने एनोटेशन दिशानिर्देश और डेटासेट को सार्वजनिक कर दिया है, आप उन्हें यहां पड़ सकते हैं।

हम इस परियोजना में कैसे योगदान कर सकते हैं ?

कई तरह से। उली एक ओपन सोर्स प्रोजेक्ट है। इसलिए यदि आपके पास कोड या दस्तावेज़ीकरण का योगदान करने का समय है, तो कृपया टैटल के स्लैक चैनल पर जाएं या हमे ईमेल भेजें । आप GitHub पर रिपॉजिटरी को स्पॉंसर करके भी आर्थिक रूप से सहायता कर सकते हैं।