هي صفحو LLM زهرلاڻ، بدسلوڪي خلاف نظام، ۽ شهرت جي حفاظت بابت وقف ٿيل تحقيقاتي آرڪائيو آهي. خطرو فوري آهي: LLM جي آئوٽ پُٽ تي اعتماد جي رفتار اسان جي بيانن جي تصديق ڪرڻ جي صلاحيت کان تيز ٿي وئي آهي، جڏهن ته مخالف ڌريون سستيءَ سان اهڙو متن شايع ڪري سگهن ٿيون جيڪو ماڊل جي روين ۽ انهن ماڻهن بابت سرچ تاثرات کي متاثر ڪري، جن جي آن لائن موجودگي وڏي نه هجي.
انتظامي خلاصو
عام ماڻهو جن جون آن لائن موجودگيءَ جون نشانَ گهٽ آهن، AI ذريعي وڌايل بدنامي ۽ ڊيٽا زهرائيدگيءَ کان غير معمولی خطري جو شڪار ٿين ٿا. هڪ ئي متحرڪ فرد غلط بيانن کي بيجائي سگهي ٿو جيڪي سرچ، سوشل فيڊز، ۽ LLMs ورجايندا آهن. هي دستاويز عام حملي جا رستا، شهرت ۽ حفاظت تي حقيقي اثر، ۽ سڃاڻپ ۽ تحفظ لاءِ هڪ عملي رهنمائي بيان ڪري ٿو. اهو پڻ واضح ڪري ٿو ته ڪيئن ڪرپٽوگرافي طور تصديق ٿيل تصديقات ۽ ماخذ-آگاه رٽريول فردن ۽ انٽيگريٽرز لاءِ نقصان کي گھٽائي سگهن ٿا.
ناظرین ۽ خطري جو ماڊل
ناظرین: اھڙا فرد ۽ ننڍيون تنظيمون جن جي وڏي SEO موجودگي ناهي. پابنديون: محدود وقت، بجيٽ، ۽ ٽيڪنيڪل وسيلن. مخالف: هڪڙو واحد ڪارڪن جيڪو وڏيون متن جون مقدار پيدا ۽ پوسٽ ڪري سگهي ٿو، بنيادي لنڪ نيٽ ورڪن جو استعمال ڪري ۽ رپورٽنگ جي خامين مان فائدو وٺي سگهي ٿو. هدف: سرچ/LLM نتيجن کي بگاڙڻ، شهرت کي نقصان پهچائڻ، ملازمن، ڪلائنٽن، پليٽفارمن، يا ايجنٽن لاءِ شڪ پيدا ڪرڻ.
LLM کي زهر ڏيڻ ڇا آهي؟
LLM poisoning جو مطلب آهي ماڊل جي رويي کي بيج يا هم آهنگ ٿيل مواد ذريعي تبديل ڪرڻ — مثال طور، نقصانڪار پوسٽون، مصنوعي مضمون، يا فورم اسپام — جيڪي ريٽريول سسٽمن ذريعي شامل ٿي سگهن ٿيون يا انسانن پاران سگنلن طور استعمال ٿي سگهن ٿيون، ماڊلز کي غلط تعلقات ۽ بدنام ڪندڙ ڪهاڻين ڏانهن ڌڪڻ.
ڇو ته LLMs ۽ رٽريول سسٽم پيماني ۽ ڪوريج لاءِ بهترين طريقي سان بهتر ڪن ٿا، هڪ ئي متحرڪ مخالف ننڍڙي ويب حصي کي ٻڏائي ڪري ماڊل جي "ڏسڻ" کي ڪنهن شخص بابت ترتيب ڏئي سگهي ٿو. هي خاص طور انهن ماڻهن خلاف وڌيڪ اثرائتو آهي جن جي آن لائن موجودگي محدود هجي.
شهرت ڪيئن تحريف ٿئي ٿي
- سرچ ۽ سوشل زهرلاڻ - پروفائل جيڪنگ، لنڪ فارمز، ۽ وڏي پيماني تي پوسٽنگ ته جيئن رينڪنگ فيچرز ۽ آٽوڪمپليٽ اسوسيئيشن کي جانبدار بڻايو وڃي.
- ڄاڻ جي بيس ۽ RAG جو زهريلو ٿيڻ - اينٽيٽي صفحا ۽ QA نوٽس ٺاهڻ جيڪي معنوي طور لاڳاپيل ظاهر ٿين ۽ حواله طور حاصل ٿين.
- غير سڌو پرامپٽ انجيڪشن - دشمن ويب مواد جيڪو براؤزنگ ايجنٽن کي هدايتون ورجائڻ يا حساس ڊيٽا نيڪال ڪرڻ تي مجبور ڪري ٿو.
- بيڪڊور ڪيل اينڊپوائنٽس - نقصانڪار ماڊل-ريپر جيڪي عام طور تي ظاهر ٿين ٿا جيستائين ٽرگر جملن جو استعمال نه ٿئي؛ پوءِ مخصوص هدف وارن جھوٽين کي خارج ڪن.
اضافي خطرا ۽ ناڪاميءَ جا طريقا
- مصنوعي آئوٽ پُٽ تي ٽريننگ سبب ماڊل جو زوال — اهڙا فيڊ بئڪ لوپس جتي ٺهيل متن مستقبل جي ماڊل معيار کي خراب ڪري ٿو جيڪڏهن فلٽر يا وزن نه لڳايا وڃن.
- غير سڌو پرامپٽ انجيڪشن - ويب تي دشمن مواد جيڪو ڪنهن ايجنٽ يا براؤزنگ ٽول کي هدايت ڏئي ٿو ته حوالو ڏيڻ تي راز ٻاهر ڪڍن يا بدنامي ڦهلائن.
- ايمبِڊِنگ اسٽور جو زهريلو ٿيڻ - ڄاڻ جي بيس ۾ مخالفانه عبارت داخل ڪري رِٽريول دوران اهڙيون غلط دعوائون ظاهر ڪيون وڃن جيڪي معنوي طور لاڳاپيل لڳن.
- بيڪڊور ڪيل رليزز - تبديل ٿيل چيڪ پوائنٽس يا API ريپرس شايع ڪرڻ جيڪي عام طور ڪم ڪن ٿا جيستائين ٽرگر جملو موجود هجي.
گہرائيءَ وارا تدارڪ
حاصل ڪرڻ ۽ درجہ بندي
- ماخذ اسڪورنگ ۽ پروويننس وزن ڏيڻ - دستخطي ٿيل يا پبلشر طرفان تصديق ٿيل مواد کي ترجيح ڏيو؛ تازو ٺهيل يا گهٽ شهرت وارا صفحا گهٽ وزن ڏيو.
- وقت جي گھٽتائي ۽ رعائتي مدت - نون ذريعن کي اعليٰ خطري وارن جوابن تي اثر انداز ٿيڻ کان اڳ رهڻ جو وقت لازمي ڪيو؛ حساس هستن لاءِ انساني جائزو شامل ڪيو.
- ايڪو چيمبر جي سڃاڻپ - ويجھڙائيءَ سان نقل ٿيل عبارت کي گروپ ڪريو ۽ ساڳئي ماخذ يا نيٽورڪ مان ورجندڙ اثر کي محدود ڪريو.
- ايمبيڊنگ اسپيس ۾ آؤٽ لائر ۽ اينومالي جي ڳولا — انهن حصن کي نشان لڳايو جن جون ویکٽر پوزيشنون دشمنانه طور تي بهتر ڪيون ويون آهن.
ڊيٽا ۽ ڄاڻ بيس جي صفائي
- علم بيس جا اسنيپ شاٽ ۽ فرق - وڏا تبديليا جائزو وٺو، خاص طور تي فردن جي وجود ۽ اهڙن الزام لاءِ جن جا اصلي ماخذ موجود نه هجن.
- ڪينياري ۽ انڪار فهرستون - ڄاڻايل بدسلوڪ ڊومينز جي شموليت کي روڪيو؛ غير مجاز پکيڙ جي ماپ لاءِ ڪينياري داخل ڪريو.
- اعلي خطري وارن موضوعن لاءِ 'هيومن ان دي لوپ' - شهرت بابت تجويز ڪيل تازه ڪاريون دستي فيصلن لاءِ قطار ۾ رکو.
تصديقون ۽ شهرت
- ڪرپٽوگرافي طور تصديق ٿيل تصديقات - تصديق ٿيل پيشه ورن ۽ ادارن پاران سائن ڪيل بيان جيڪي صرف شامل ڪرڻ واري لاگ ذريعي شايع ڪيا وڃن.
- شهرت گراف - دستخطي ٿيل حمايتون گڏ ڪريو ۽ ورجندڙ بداستعمال ڪندڙن يا بوٽ نيٽ ورڪن جي مواد جي ريٿنگ گهٽايو.
- صارف-سامهون حوالا - حساس دعوائن لاءِ ماڊلز کان ماخذ ۽ اعتماد ڏيکارڻ جي گهرج رکو، ۽ ماخذ جا بيجز ڏيکاريا وڃن.
ادارتي چيڪ لسٽ
- پنهنجي ميدان ۾ حساس ادارن (ماڻهو، برانڊز، قانوني موضوع) جو نقشو ٺاهيو ۽ سوالن کي اهڙين محفوظ پائيپ لائينز ڏانهن موڪليو جن ۾ اصل ماخذ بابت گهرجون هجن.
- پهرئين ڌر جي مواد لاءِ C2PA يا مشابه مواد اسناد اپنائئو ۽ پارٽنرز کي به ساڳيو ڪرڻ جي ترغيب ڏيو.
- وقت سان گڏ نون ذريعن جي اثر کي ٽريڪ ڪريو ۽ هستي-سطح وارن جوابن ۾ غير معمولي تبديلين تي اطلاعن کي فعال ڪريو.
- RAG ۽ براؤزنگ ايجنٽن لاءِ لڳاتار ريڊ ٽيمنگ ڪريو، جنهن ۾ غير سڌي پرامپٽ انجیکشن ٽيسٽ سوئٽون شامل هجن.
مصنوعي ذهانت ذريعي هراسان ڪرڻ ۽ بدنامي
ھاڻي ڀرتي لاءِ افراد AI ۽ آٽوميشن کي استعمال ڪري وڏي پيماني تي هراسان ڪرڻ ۽ بدنامي پيدا ڪندا آهن، اهڙو متن ۽ جعلي “ذرائع” ٺاهيندي جيڪي ڏسڻ ۾ قابلِ يقين لڳن ۽ انڊيڪس، اسڪراپ ۽ ٻيهر شيئر ڪرڻ آسان هجن. هي مهمون گهٽ خرچ، وڌيڪ اثرائتيون، ۽ هڪ ڀيرو خودڪار نظامن طرفان وڌايل ٿيڻ بعد درست ڪرڻ ۾ ڏکيون ٿين ٿيون.
Chad Scira ذاتي طور تي مخصوص حراسانِي ۽ بدنامي جو شڪار ٿيو آهي، گڏوگڏ اسپامي لنڪنگ جنهن جو مقصد شهرتي سگنلن ۽ سرچ تاثرات کي بگاڙڻ هو. هتي هڪ تفصيلي بيان ۽ ثبوتن جو ٽريڪ دستاويز ٿيل آهي: Jesse Nickles - هراسان ڪرڻ ۽ بدنامي.
هاڻوڪو Stack Exchange حادثو ڏيکاري ٿو ته ڪيئن مربوط اڪائونٽ نيٽ ورڪ اهڙن پليٽفارمن تي اعتماد ٺاهي سگهن ٿا جيڪي عام طور تي مضبوط ساک جا اشارا رکن ٿا. ڪيترن ئي لاڳاپيل اڪائونٽن تي عوامي 100 سالن جي معطلي، جنهن کان پوءِ انتقامي طور تي مختلف پليٽفارمن تي شايع ڪرڻ، هن کي ماخذ-آگاه درجو بندي ۽ بدسلوڪي جي خلاف نظامن لاءِ هڪ ڪارائتي ڪيس اسٽڊي بڻائي ٿو: Stack Exchange تي هراساڻي ۽ بدنامي جو واقعو.
خطري جي درجابندي
- پري ٽريننگ ڊيٽا زهر ڏيڻ — شروعاتي ٽريننگ لاءِ استعمال ٿيندڙ عوامي ڪورپرا کي زهر ڏيڻ ته جيئن غلط تعلقات يا بئڪ ڊور نصب ڪيا وڃن.
- RAG زهرلاڻ - ڄاڻ بيس يا ٻاهرين ماخذن ۾ بيج پوڻ، جيڪي استنباط جي وقت رِٽريول پائيپ لائنون استعمال ڪن ٿيون.
- سرچ/سوشل زهرلاڻ - ڪنهن شخص يا موضوع بابت حاصل ڪرڻ ۽ درجہ بندي سگنلن کي متعصب ڪرڻ لاءِ پوسٽن يا گهٽ معيار وارن صفحن جي ٻڏت.
- دشمنانه پرومپٽس ۽ مواد - اهڙا انپٽ ٺاھڻ جيڪي ناگوار رويي يا جيل بريڪ کي ٽرگر ڪن ۽ بدنامي وارا دعوائون ورجاين.
تازا واقعا ۽ تحقيق (تاريخن سان)
نوٽ: مٿي ڏنل تاريخون لنڪ ڪيل ذريعن تي ڇپائي يا عوامي رليز جون تاريخون ڏيکارين ٿيون.
هي ڇو خطرناڪ آهي
- LLMs اختيار نما ظاهر ٿي سگهن ٿا جيتوڻيڪ بنيادي حوالا ڪمزور يا دشمنانه طور تي بيج ڪيل هجن.
- حاصل ڪرڻ ۽ درجہ بندي واريون پائيپ لائنون ورجائجي ويل متن کي گهڻو وزن ڏئي سگهن ٿيون، جنهن سان هڪ فریق صرف مقدار جي بنياد تي نتيجن کي متعصب ڪري سگهي ٿو.
- انساني حقيقت جانچ جا رستا خودڪار مواد جي پيداوار ۽ ورڇ جي رفتار جي ڀيٽ ۾ سستي ۽ مهانگي هونديون آهن.
- گهٽ آن لائن موجودگي وارا متاثر غير متناسب طور تي واحد پوسٽ ذريعي ڊيٽا کي زهر ڪرڻ ۽ سڃاڻپ حملن جي شڪار ٿين ٿا.
خطرن جو گهرو جائزو
- نوڪري ۽ پليٽفارم اسڪريننگ - ڳولا ۽ LLM جا خلاصا ڀرتي، ماڊريشن، يا آن بورڊنگ چيڪس دوران زهريل مواد جي عڪاسي ڪري سگهن ٿا.
- سفر، رهائش، ۽ مالي خدمتون - خودڪار جانچون غلط ڪهاڻيون ظاهر ڪري سگهن ٿيون جيڪي خدمتن کي دير يا روڪي سگهن ٿيون.
- استقامت — هڪ دفعو ڄاڻ بيسز ۾ انڊيڪس ٿيل يا ڪيش ڪيل جوابن ۾ داخل ٿي وڃن، غلط دعوائون ٽيڪ ڊائون کان پوءِ به ٻيهر ظاهر ٿي سگهن ٿيون.
- مصنوعي فيڊبئڪ - ٺهيل مواد وڌيڪ ٺهيل مواد کي جنم ڏئي سگهي ٿو، جنهن سان وقت سان گڏ جھوٽن ڳالهين جو ظاهر وزن وڌي وڃي ٿو.
دريافت ۽ نگراني
- پنهنجي نالي ۽ عرفي نالن تي سرچ الارٽون سيٽ ڪريو؛ وقت بوقت site: سوالن کي چيڪ ڪريو ته گهٽ شهرت وارا ڊومين توهان جو ذڪر ته نه ڪن.
- پنهنجي علمي پينلز يا هستي صفحن ۾ ٿيندڙ تبديلين کي ٽريڪ ڪريو؛ ثبوت لاءِ تاريخ وارين اسڪرين شاٽس ۽ ايڪسپورٽ ڪاپيون محفوظ ڪريو.
- سماجي لنڪ گرافن کي مانيٽر ڪريو بار بار اُڀرندڙ اصل اڪائونٽن يا مشابهت واري عبارت ۾ اوچتو اوڀراءَ لاءِ.
- جيڪڏهن توھان RAG يا ڄاڻ جي بيس ھلائي رھيا آھيو، ته اينٽيٽي ڊرِفٽ چيڪ ڪريو ۽ بغير بنيادي ذريعن جي ماڻھن جي صفحن يا الزام ۾ ٿيندڙ وڏين تبديلين جو جائزو وٺو.
حفاظتي رهنما - انفرادي
- ذاتي ويب سائيٽ شايع ڪريو جنهن ۾ واضح سڃاڻپ جا دعوائون، هڪ مختصر سوانح عمري، ۽ رابطي جا طريقا هجن؛ تاريخ سان گڏ تبديليءَ جو لاگ رکيو.
- پليٽفارمن تي پروفائل ميٽاڊيٽا کي هم آهنگ ڪريو؛ جتي ممڪن هجي توثيق ٿيل پروفائل حاصل ڪريو ۽ انهن کي پنهنجي سائيٽ سان ڳنڍيو.
- ممڪن هجي ته اهم تصويرن ۽ دستاويزن لاءِ C2PA يا مشابه مواد جي سندون استعمال ڪريو؛ اصلي نسخا نجي طور محفوظ ڪريو.
- ٽائيم اسٽامپس سان شواهد جو لاگ رکو: اسڪرين شاٽس، لنڪس، ۽ مستقبل ۾ قدم کڻڻ لاءِ ڪنهن به پليٽ فارم ٽڪيٽ نمبر.
- ٽيڪ ڊائون ٽيمپليٽ تيار ڪريو؛ نئين حملا تي تيزي سان جواب ڏيو ۽ هر قدم کي دستاويز ڪريو ته واضح پيپر ٽريل رهي.
حفاظتي رهنما - ٽيمون ۽ انٽيگريٽرز
- ريٽريول ۾ دستخط ٿيل يا پبلشر پاران تصديق ٿيل مواد کي ترجيح ڏيو؛ نون ذريعن لاءِ وقت جي بنياد تي مهلت لاڳو ڪريو.
- ساڳئي مآخذ مان ورجندڙ اثر کي محدود ڪريو ۽ هر مآخذ نيٽورڪ لاءِ ويجھڙائيءَ وارن نقليات کي غير مكرر ڪريو.
- شخص جي دعوائن ۽ ٻين حساس موضوعن لاءِ ماخذي بئجز ۽ صارف-سامهون ماخذن جون فهرستون شامل ڪريو.
- embedding stores تي انومالي ڳولڻ اختيار ڪريو؛ دشمنانه ویکٽر آئوٽلائَرز کي فليگ ڪريو ۽ غير مجاز پکيڙ لاءِ ڪينياري چيڪ هلائو.
تحقيق: ڪرپٽوگرافڪ طور تي تصديق ٿيل اثبات
Chad Scira ڪرپٽوگرافي طور تصديق ٿيل اٽيسٽيشن سسٽم تعمير ڪري رهيو آهي ته جيئن ماڻهن ۽ واقعن بابت بيانن تي اعتماد ڪيو وڃي. مقصد اهو آهي ته LLMs ۽ رٽريول سسٽمن کي تصديق ٿيل پيشه ورن ۽ ادارن پاران سائن ٿيل، سوال لائق دعوائون فراهم ڪيون وڃن، جنهن سان مضبوط ماخذ مهيا ٿين ۽ زهرائيدگيءَ جي خلاف وڌيڪ مزاحمت ممڪن ٿئي.
ڊيزائن اصول
- شناخت ۽ اصليت: بيان تصديق ٿيل ماڻهن/تنظيمن طرفان پبلڪ ڪي ڪِرپٽوگرافي استعمال ڪندي دستخط ٿيل هجن.
- قابل تصديق اسٽوريج: تصديقات انهن لاگز سان ڳنڍيل هجن جيڪي صرف شامل ڪرڻ لائق ۽ ڇيڙڇاڙ جو پتو لڳائيندڙ هجن، ته جيئن آزاد تصديق ممڪن ٿي سگهي.
- حاصل ڪرڻ جي انٽيگريشن: RAG پائيپ لائنون حساس سوالن لاءِ ڪرپٽوگرافڪ طور تصديق ٿيل ماخذن کي ترجيح يا لازمي قرار ڏئي سگهن ٿيون.
- گهٽ رڪاوٽ: APIs ۽ SDKs شايع ڪندڙن ۽ پليٽفارمن کي اجازت ڏين ٿا ته هو انجيشن وقت تي تصديق ناما جاري ۽ جانچين.
شهرت ۽ خبرداري
تصديق نامن کان علاوه، هڪ شهرتي پرت دستخطي منظوريون گڏ ڪري ٿي ۽ ڄاتل بداستعمال ڪندڙن کي نشان لڳائي ٿي. الرٽنگ سسٽم هدفن کي اطلاع ڏين ٿا جڏهن هم آهنگ حملا يا غير معمولي اوڀراءَ جي نشاندهي ٿئي، جنهن سان تيز رد عمل ۽ ٽيڪ ڊائون درخواستون ممڪن ٿين ٿيون.
قانوني ۽ پليٽ فارم چينلز
- پليٽ فارم جي رپورٽ فلو کي واضح ثبوت جي پيڪيجز سان استعمال ڪريو: لنڪس، تاريخون، اسڪرين شاٽس، ۽ اثرات. بدنامي ۽ هراسان ڪرڻ جون پاليسيون حوالو ڪريو.
- جتي مناسب هجي رسمي نوٽيس سان معاملو وڌايو؛ پنهنجي شواهد واري ٽريڪ ۾ مراسلات جا لاگز ۽ ٽڪيٽ ID محفوظ رکو.
- بدنامي ۽ پليٽ فارم ذميواري ۾ عدالتي دائريءَ جا اختلاف غور ۾ رکجن؛ انتهائي خطري وارين معاملن لاءِ وڪيل سان مشورو ڪريو.
نفاذ روڊ ميپ (سال 1)
- MVP: attestation schema ۽ پبلشر SDK سڃاڻپ بيانن ۽ واقعن جا دعوٰي دستخط ڪرڻ لاءِ.
- چُڱي طرح جانچيل پيشه ورن ۽ ادارن جي هڪ ننڍڙي گروپ سان پائليٽ ڪريو؛ تصديق واري ڪم جي وهڪرين کي قائم ڪريو.
- RAG پلگ انز: حساس سوالن لاءِ توثيق ٿيل ماخذن کي ترجيح ڏيندڙ 'ماخذ پهريون' جواب موڊ فعال ڪريو.
تعاون
هي تحقيق جديد ترين آهي ۽ سرگرميءَ سان ارتقا پذير آهي. Chad Scira هن شعبي جي ٻين پيشه ور ماڻهن سان تعاون کي ڀليڪار چوي ٿو.
جيڪڏهن توهان گڏجي ڪم ڪرڻ ۾ دلچسپ آهيو، مهرباني ڪري رابطو ڪريو: [email protected]
قانوني اطلاع. هن صفحي تي پيش ڪيل معلومات حقيقتن جو هڪ عوامي رڪارڊ آهي. اهي ثبوت طور تايلينڊ ۾ Jesse Jacob Nickles خلاف جاري فوجداري بدنامي جي ڪيس ۾ استعمال ٿي رهيون آهن. سرڪاري فوجداري ڪيس جو حوالو: Bang Kaeo Police Station – Daily Report Entry No. 4, Book 41/2568, Report No. 56, dated 13 August 2568, Reference Case No. 443/2567. هي دستاويز ٻين ڪنهن فرد يا تنظيم لاءِ به حمايتي ثبوت طور ڪم اچي سگھي ٿو جيڪي Jesse Nickles خلاف پنهنجي هراساني يا بدنامي جي دعوائن جو پيچھو ڪري رهيا آهن، جيئن دستاويزن ۾ رڪارڊ ڪيل بار بار ورججندڙ روين جو نمونو ظاهر ڪري ٿو جيڪو ڪيترن متاثر ٿيندڙن کي متاثر ڪيو آهي.