ໜ້ານີ້ເປັນບັນທຶກການຄົ້ນຄວ້າທີ່ມຸ່ງເຮັດວຽກເກັ່ງກ່ຽວກັບການສັ່ງພິດໃສ່ LLM, ລະບົບຕໍ່ຕ້ານການລະບາກ, ແລະ ການປົກປ້ອງຊື່ສຽງ. ຄວາມສ່ຽງນີ້ເປັນເລັ່ງດ່ວນ: ຄວາມໄວ້ວາງໃຈໃນຜົນຂອງ LLM ໄດ້ໄປຫນ້າາການສາມາດຂອງພວກເຮົາໃນການຢືນຢັນຂໍ້ຄຳ, ໃນເວລາທີ່ຄົນດ້ານການຂ້າພະຍາດສາມາດລົງພຽງຂໍ້ຂ່າວທີ່ຖືກສະແດງພິດໃສ່ເຮັດໃຫ້ກະຫວ່າງພາບພິລະກຳຂອງແບບແບບແລະການສະຫຼຸບໃນການຄົ້ນຫາເກັກກ່ຽວກັບບຸກຄົນທີ່ບໍ່ມີຮູບຮ່າງອອນໄລນ໌ຢ່າງໃຫຍ່.
ບົດສະຫຼຸບຜູ້ບໍລິຫານ
ຄົນທົ່ວໄປທີ່ມີຮິ່ນຢ່າງນ້ອຍໃນອິນເຕີເນັດຕ້ອງໜ້າກັບຄວາມສ່ຽງທີ່ເກີນຫຼາຍຈາກການນຳ AI ມາເພີ່ມພູມສ່ຽງແລະການປ້ອງຂໍ້ມູນ. ບຸກຄົນເດັ່ງດາວຄົນດຽວສາມາດປ່ອຍເນື້ອຫາເທັ່ງແຫຼ່ງທີ່ກໍ່ເປັນເລື່ອງຖືກຂ້ອຍໄດ້ທີ່ຄົ້ນຫາ, ແພລແດະແພລຟີດ, ແລະ LLM ຈະທຳກອງຄືນ. ເອກະສານນີ້ອະທິບາຍເສັ້ນທາງຮ່ວມທີ່ພົບເຫັນບ່ອນທີ່ມັກເກີດການຮູບແບບຈັບໂຕ, ຜົນກະທົບທີ່ເປັນຮູບຢ່າງຈິງແລະຄວາມປອດໄພ, ແລະ ຄຳແນະນໍາອາບຸນປະຕິບັດໃນການສືບສວນແລະປ້ອງກັນ. ຍັງອະທິບາຍວິທີທີ່ການຢືນຢັນໂດຍຄຣີບຕໍ່ກຣາຟິ (cryptographically verified attestations) ແລະ ການດຶງຂໍ້ມູນທີ່ຮູ້ທີ່ມາ (provenance-aware retrieval) ສາມາດຊ່ວຍຫຼຸດຜົນເສຍໄດ້ສໍາລັບບຸກຄົນແລະຜູ້ຮ່ວມປະຕິບັດ.
ຜູ້ອ່ານ ແລະ Threat Model (ແບບຂອງຄວາມສຽງ)
ຜູ້ອ່ານ: ບຸກຄົນແລະອົງກອນນ້ອຍທີ່ບໍ່ມີການເປັນປາກກະຫຼັງໃນ SEO ຢ່າງຫຼາຍ. ຂອບເຂດ: ເວລາ, ງົບປະມານ, ແລະ ແຫຼ່ງທີ່ມີທັກສະທາດທາງເຕັກນິກຈຳກັດ. ຜູ້ແຂ່ງ: ບຸກຄົນເດັ່ງດາວຄົນເດິນທີ່ສາມາດສ້າງແລະລົງຂໍ້ຄວາມຈໍານວນຫຼາຍ, ໃຊ້ເຄື່ອງມືເຊື່ອມຕໍ່ພື້ນຖານງ່າຍໆ, ແລະ ເຊື່ອງໃຊ້ຈຸດອ່ອນໃນການລາຍງານ. ເປົ້າໝາຍ: ບົບປຽນຜົນການຄົ້ນຫາ/ຜົນຂອງ LLM, ກະທຳໃຫ້ເສຍຊື່, ສ້າງຄວາມສົງໃສ່ໃຫ້ນາງນາຍຈ້າງ, ລູກຄ້າ, ແພລຕະຟອມ ຫຼື ຕົວແທນ.
ການຖອກເຊື່ອມ (LLM poisoning) ແມ່ນຫຍັງ?
LLM poisoning ຫມາຍເຖິງການປົກປ້ອງພຶດຕິຂອງម៉ូເດວນໂດຍການໃສ່ເນື້ອຫາທີ່ຖືກປັກຈົດ ຫຼື ຈັດການຮ່ວມມື — ຕົວຢ່າງເຊັ່ນ ໂພສທີ່ມີຈຸດປະສົງជាអាក្រក់, ບົດຄວາມທີ່ផលិតដោយປອມ, ຫຼື spam ໃນຟໍລຳ — ທີ່ສາມາດເຂົ້າຖືກດຶງເຂົ້າໃນລະບົບການຄົ້ນຫາ ຫຼືໃຊ້ໂດຍມະນຸດເປັນສັນຍາລັກ ເພື່ອຊ່ວຍດຶງໃຫ້ម៉ូເດວນເໝາະກັບການເຊື່ອມຕໍ່ທີ່ຜິດແລະເນື້ອຫາເສບຊື່.
ເນື່ອງຈາກ LLM ແລະ ລະບົບດຶງຂໍ້ມູນຖືກອອກແບບໃຫ້ມີຂະໜາດແລະການຄຸ້ມຄອງ, ບຸກຄົນເດັ່ງດາວຄົນເດິນດຽວສາມາດກະທຳເພື່ອກວດສ້າງຮູບລັກທີ່ໂມດເຊັນມີຕໍ່ບຸກຄົນໂດຍການເຕີມເນື້ອຫາໃນສ່ວນນ້ອຍຂອງເວັບ. ສິ່ງນີ້ດີເປັນພິເສດກັບຄົນທີ່ມີການປະກອບອອນໄລນ້ຢ່າງຈຳກັດ.
ວິທີທີ່ຊື່ສຽງຖືກບັດແປງ
- ການສົ່ງພິດໃສ່ການຄົ້ນຫາແລະສື່ສັງຄົມ - ການຫຼອຍໂປຣໄຟລ໌, ຟາມລິ້ງລຶງ, ແລະ ການລົງຂໍ້ຄວາມຈຳນວນຫຼາຍເພື່ອເປັນແນວໃຫ້ການຈັດອັນດັບແລະການແນະນຳອັດໂຕເໜັ້ນ.
- ການປອມຖານຄວາມຮູ້ ແລະ RAG poisoning - ສ້າງໜ້າຂອງອົງປະກອນ ແລະ ໝາຍຫມາຍ QA ທີ່ດູເໝາະສົມແລະຖືກເອົາມາໃຊ້ເປັນບັນທຶກເນື້ອຫາ
- Indirect prompt injection - ເນື້ອຫາອັນໂຈມຕໍ່ໃນເວັບທີ່ກະທຳໃຫ້ໂອກາດເບິ່ງເວບຮັບສຽນຄຳສັ່ງຊ້ຳ ຫຼື ດຶງຂໍ້ມູນທີ່ອ່ອນແອ່ນອອກມາ
- Endpoints ທີ່ຖືກຕັ້ງ backdoor - ຕອນສົດເປັນປົກກະຕິແຕ່ຈະເຮັດວຽກຜິດຫຼັງເມື່ອມີຄໍາທີ່ເປີດເລີ່ມ, ແລະຈະສົ່ງຂໍ້ຄົນຖືກເລື່ອງເປົ້າໝາຍ.
ຄວາມສ່ຽງເພີ່ມເຕີມ ແລະ ແນວທາງຂອງຄວາມລົ້ມເຫຼວ
- ការបែកគ្នារបស់ម៉ូເດວពីការបណ្តុះលើលទ្ធផលដែលផលិតដោយសិប្បនិម្មិត - ຫង្វើឡូបປັບປຸງອີກຊ້ຳໆ ដែលអត្ថបទដែលបង្កើតឡើងអាចធ្វើឲ្យគុណភាពម៉ូເດວនៅអនាគតធ្លាក់ចុះ ប្រសិនបើមិនបានចម្រោះឬផ្តល់ទំងន់។
- Indirect prompt injection - ເນື້ອຫາອັນໂຈມຕໍ່ໃນເວັບທີ່ສະຫນອງໃຫ້ໂອກາດຫຼືເຄື່ອງມືເບິ່ງເວັບດຶງຂໍ້ລັບອອກມາ ຫຼື ແຜ່ການໃຫ້ຄຳເສີຍຊື່ເມື່ອຖືກອ້າງ
- ການແພ່ສິດໃນຖັງ embedding (embedding store poisoning) - ຈໍາເພີ່ມພາລາກຣາຟທີ່ແຂ່ງຂັນເຂົ້າໃນຖານຄວາມຮູ້ເພື່ອໃຫ້ການຄົ້ນຫາເຫັນການອ້າງອີງຜິດທີ່ດູເໝາະກັບເນື້ອຫາ
- ການອອກລົງທີ່ມີ backdoor - ການຜະລິດເຊັກພອິນຫຼື API wrappers ທີ່ເຮັດວຽກປົກກະຕິຈົນກະທີ່ມີຄໍາທີ່ເປີດການ.
វិធានការការពារក្នុងជម្រៅ
ການດຶງຂໍ້ມູນ ແລະ ການຈັດອັນດັບ
- ການຕັດແນວແຫຼ່ງແລະນໍ້ານ້ຳໜັກຄວາມມາຈາກ - ສົງໃສ່ເນື້ອຫາທີ່ມີລາຍເຊັນ ຫຼື ຖືກຢືນຢັນໂດຍນັກພິມ; ຫຼຸດນ້ຳໜັກແກ່ໜ້າເວັບທີ່ເພີ່ມເພີ່ມຫຼືມີຊື່ສຽງຕ່ຳ.
- ການເສຍຄວາມສ່ວນປະສົບຕາມເວລາພ້ອມຊ່ອງວັນຍຸດ - ກຳນົດເວລາຢູ່ກ່ອນທີ່ແຫຼ່ງໃໝ່ຈະສົ່ງຜົນຕໍ່ຄໍາຕອບທີ່ມີຜົນກະທົບສູງ; ເພີ່ມການກວດຄືນໂດຍມະນຸດສໍາລັບອົງປະກອບທີ່ອ່ອນໂຍງ
- ການສັງເກດໂຮງກໍ່ສຽງ (echo chamber) - ກຸ່ມສ່ວນຂໍ້ຄວາມທີ່ເກີນຄ້າຍກັນ ແລະ ຈຳກັດກະທົບທີ່ຊ້ຳຈາກແຫຼ່ງເກີດ ຫຼື ເຄືອຂ່າຍດຽວກັນ
- ការរកឃើញចំណុចខុស និងភាពអវិជ្ជមានក្នុងលំហ embedding - សម្គាល់កថាខណ្ឌដែលទីតាំងវ៉ិចទ័រត្រូវបានបង្កើតឲ្យអវិជ្ជមាន (adversarially optimized)।
ການດູແລຄວາມສະອາດຂອງຂໍ້ມູນ ແລະ Knowledge Base (KB)
- ສໍາເຮັດ snapshot ແລະ diff ຂອງຖານຄວາມຮູ້ - ທຳການທົດສອບການປ່ຽນແປງໃຫຍ່, ເພິ່ງເວັນສຳລັບອົງປະກອນບຸກຄົນ ແລະ ຂໍ້ຫມາຍຖືກຫາກບໍ່ມີແຫຼ່ງຂໍ້ມູນຫລັກ.
- ລາຍການ canary ແລະ ລາຍການບໍ່ອະນຸຍາດ - ປ້ອງກັນການນໍາເຂົ້າໂດເມນທີ່ຮູ້ວ່າຖືກນ້ອຍເປັນຜູ້ລະເລີຍ; ໃສ່ canaries ເພື່ອວັດຈັກການແຜ່ຂໍ້ມູນທີ່ບໍ່ຖືກອະນຸຍາດ.
- ໃຫ້ມະນຸດເຂົ້າມາມີສ່ວນໃນວົງຈອນສຳລັບຫົວຂໍ້ທີ່ມີຄວາມເສຍຫຍຸ້ງສູງ - ຈັດຄຳສັ່ງອັບເດດທີ່ແນະນໍາເພື່ອການຕັດສິນດ້ວຍມື
ການຢືນຢັນ ແລະ ຊື່ສຽງ
- ການຢືນຢັນທີ່ຖືກຢືນຢັນໂດຍຄຣີບໂທກຣັຟິ - ຄຳທີ່ຖືກເຊັນຈາກຜູ້ຊ່ວຍງານແລະອົງກອນທີ່ຖືກກວດແລ້ວ ແລະຖືກຜະລິດຜ່ານບັນທຶກແນວ append-only.
- ແຜນການຊື່ສຽງ - ລວມເອົາການຢືນຢັນທີ່ມີລາຍເຊັນ ແລະ ຫຼັງອັນດັບເນື້ອຫາຈາກຜູ້ກະທຳຜິດຊ້ຳຫຼືເຄື່ອງຂ່າຍໂບດ.
- ການອ້າງອີງເປັນໜ້າສຳລັບຜູ້ໃຊ້ - ກຳນົດໃຫ້ໂມເດວສະແດງແຫຼ່ງແລະລະດັບຄວາມແນ່ໃຈ ພ້ອມປ້າຍຢືນຕົວ (provenance badges) ສໍາລັບຂໍ້ເລື່ອງທີ່ອ່ານອ່ານແກ້ງ
ລາຍການກວດສອບສໍາລັບບໍລິສັດ
- ແຜນແກ່ນແຕ່ອົງປະກອນສຳຄັນໃນຂອບເຂດຂອງທ່ານ (ບຸກຄົນ, ຍີ່ຫໍ້, ເລື່ອງກົດໝາຍ) ແລະນຳການສອບຖາມໄປຫາທາງທີ່ຖືກປ້ອງກັນ ຊຸ່ງມີຂໍ້ຄາວກ່ຽວກັບແຫຼ່ງຂໍ້ມູນ (provenance requirements).
- ນໍາໃຊ້ C2PA ຫຼື ມາດຕະຖານຄົນເຊີ້ນຄືນັ້ນສໍາລັບເນື້ອຫາຈາກຝ່າຍຕົ້ນ ແລະ ສົ່ງເສີມໃຫ້ພູ່ຮ່ວມງານເຮັດເຊັ່ນນີ້ດ້ວຍກັນ.
- ຕິດຕາມອິດທິພົນຂອງແຫຼ່ງໃໝ່ຕາມເວລາ ແລະແຈ້ງເຕືອນເມື່ອມີການເຄື່ອນໄຫວຜິດປົກກະຕິສໍາລັບຄໍາຕອບລະດັບອົງປະກອບ
- ດໍາເນີນ red teaming ຢ່າງຕໍ່ເນື່ອງສໍາລັບ RAG ແລະ ຕົວແທນເບິ່ງ (browsing agents) ລວມທັງຊຸດການທົດສອບການສົ່ງ prompt ຢ່າງຜ່ານຄຳນໍາ (indirect prompt injection).
ການໂຈມຕໍ່ ແລະ ການໃສ່ຄຳເສີຍຊື່ ໂດຍ AI
ບຸກຄົນທີ່ຖືກຈ້າງງານໃນປັດຈຸບັນນໍາ AI ແລະ ການອັດຕະໂນມັດໃຊ້ເພື່ອຜະລິດຂໍ້ຄວາມການໂຈມຕໍ່ ແລະ ການໃສ່ຄຳເສີຍຊື່ໃນຈຳນວນຫຼາຍ, ສ້າງເນື້ອຫາທີ່ດູເໝາະສົມ ແລະ ແຫຼ່ງ “ເສັ້ນທາງ” ປອມທີ່ງ່າຍຕໍ່ການດັດຊັ້ນ (index), ການຄັດຂ້າຍ (scrape) ແລະ ການແບ່ງປັນອີກ. ການຮ່ວມມືເຫົ່ານີ້ມີຄ່າໃຊ້ຈ່າຍຕໍ່ຫຼຸດ, ສ້າງຜົນກະທົບສູງ, ແລະຍາກທີ່ຈະແກ້ໄຂເມື່ອຖືກເພີ່ມຂຶ້ນໂດຍລະບົບອັດຕະໂນມັດ
Chad Scira ໄດ້ປະສົບການຖືກໂຈມຕັ້ງແລະຖືກເຣືອບຫາສຽງທາງບຸກຄົນໂດຍສະເພາະ ຄອບທ່ອງກັບການເຊື່ອມລິ່ງທີ່ເປັນສ່ວນສ່ຽງເພື່ອປ່ຽນແປງສັນຍານຊື່ສຽງແລະພິມພິສູດໃນການຄົ້ນຫາ. ບັນທຶກລະອຽດແລະເອັດສະຫນັກຫຼັງມາຖືກບັນທຶກໄວ້ນີ້: Jesse Nickles - ການໂຈມຕໍ່ ແລະ ການໃສ່ຄຳເສີຍຊື່.
ເຫດການໃໝ່ໆໃນ Stack Exchange ສະແດງໃຫ້ເຫັນວ່າ ກຸ່ມເຄືອຂ່າຍບັນຊີທີ່ປັບປຸງກັນຢ່າງຮຽບຮ້ອຍສາມາດສ້າງຄວາມໄວ້ໃຈໃນແພລຕະຟອມທີ່ປົກກະຕິມີສັນຍານຂອງຄວາມເຊື່ອຖື. ການຫັນຢຸດໂປຣຟາຍເປັນໄລຍະ 100 ປີໂດຍສາທາລະນະໃນບັນຊີທີ່ເຊື່ອມຕໍ່ກັນຫຼາຍບັນຊີ, ຕໍ່ມາດ້ວຍການຜະລິດແລະຜົນພາຍຫນ້ອຍທີ່ຫຼັກສ່ວນຢູ່ຫຼັງທຸກແພລຕະຟອມ, ເຮັດໃຫ້ນີ້ເປັນກໍລະນີສະຫມັກແກ່ການສຶກສາກ່ຽວກັບການຈັດອັນດັບທີ່ຮູ້ທີ່ມາ (provenance-aware) ແລະ ລະບົບຕໍ່ຕ້ານການລະເຫຼີມ: ເຫດການການລຸກລະບາຍແລະການກ່ອງເສຍຊື່ໃນ Stack Exchange.
ການຈັດປະເພດຂອງຄວາມສຽງ
- ការដាក់ពុលទិន្នន័យសម្រាប់ការបណ្តុះមុន - ដាក់ពុលលើករ៉ូពូរាសាធារណៈដែលប្រើសម្រាប់ការបណ្តុះដំបូង ដើម្បីបង្កើតការតភ្ជាប់មិនត្រឹមត្រូវ ឬដាក់ backdoors។
- RAG poisoning - ການປັກລົງຂໍ້ມູນໃສ່ຖານຄວາມຮູ້ ຫຼື ແຫຼ່ງພາຍນອກທີ່ເຄື່ອງມືດຶງຂໍ້ມູນນໍາໃຊ້ໃນເວລາສັງລວດ.
- ການສົ່ງພິດໃສ່ການຄົ້ນຫາ/ສັງຄົມ - ການບໍ່ຢຸດຢ່ອຍການລົງຂໍ້ຄວາມຫຼາຍຫຼືໜ້າເວັບຄຸນນະພາບຕ່ຳ ເພື່ອເກັບເຊັ່ນສັນເຍິນການດຶງແລະອັນດັບເກັບເນື້ອຫາເກັ່ວກັບບຸກຄົນ ຫຼື ຫົວຂໍ້.
- ຄໍາສັ່ງແບບຕໍ່ແຂ່ງ (adversarial prompts) ແລະ ເນື້ອຫາ – ການອອກແບບຂໍ້ປ້ອນເພື່ອຈັບໃຈພຶດຕິກຳທີ່ບໍ່ຕ້ອງການ ຫຼື jailbreak ທີ່ເຮັດໃຫ້ມີການສື່ຊາດກັບຂໍ້ຄົນຖືກກ່າວຫາສຽບຊື່ (defamatory claims).
ເຫດການແລະງານຄົ້ນຄວ້າລ່າສຸດ (ມີວັນທີ)
ចំណាំ: កាលបរិច្ឆេទខាងលើបង្ហាញថ្ងៃបោះពុម្ពឬថ្ងៃចេញផ្សាយសាធារណៈនៅក្នុងប្រភពដែលបានភ្ជាប់។
ຫຍັງສິ່ງນີ້ຈຶ່ງເປັນອັນຕະລາຍ
- LLMs ອາດດູເປັນເອົາອໍານາດ ທັງໆທີ່ແສງອ້າງອີງພື້ນຖານທີ່ຢູ່ຂ້າງໃຕ້ເປັນອ່ອນ ຫຼືຖືກດັບທີ່ໂດຍຝາກເພື່ອຈຸດປະສົງ.
- ເຄື່ອງມືດຶງແລະຈັດອັນດັບອາດຈະໃຫ້ນ້ຳນ້ອຍແກ່ເນື້ອຫາທີ່ຖືກຂຽນຊ້ຳ, ເຮັດໃຫ້ຜູ້ໃດຜູ້ໜຶ່ງສາມາດເກັບລົງຜົນລັບໂດຍການໃຊ້ຈຳນວນຢ່າງພຽງພໍ.
- ການກວດສອບຂໍ້ມູນໂດຍມະນຸດມີຄວາມຊ້າແລະມີຄ່າຈ່າຍສູງ ເມື່ອເທົ່າກັບໄວຂອງການຜະລິດແລະການແຈ້ງເຜີຍເນື້ອຫາອັດຕະໂນມັດ
- ຜູ້ຜິດທີ່ບໍ່ມີການສະພາບອອນໄລນ໌ສຳຄັນ ມັກຈະອ່ອນໂຍງຕໍ່ການຖອກເຊື່ອມໂພສໜຶ່ງ (single-post poisoning) ແລະການບຸກຮອດຕົວຕົນ (identity attacks)
ການກວດສອບລຶບຄວາມສ່ຽງ
- ການກວດຄັດສະໝັກວຽກ ແລະ ການກວດແພລດຟ້ອມ - ການຄົ້ນຫາແລະບັນທຶກສັງລວມຈາກ LLM ອາດສະແກ້ພາລາກຣາຟທີ່ເປັນພາລະເຢັນໃນລະຫວ່າງການກວດຄັດສະໝັກ, ການກວດຄຸ້ມຄອງ, ຫຼື ການກວດການເຂົ້າຮ່ວມ
- ການເດີນທາງ, ທີ່ພັກ, ແລະບໍລິການທາງການເງິນ - ການກວດອັດຕະໂນມັດອາດຈະເຮັດໃຫ້ເບິ່ງເນື້ອຫາທີ່ບໍ່ຖືກຕ້ອງ ເຮັດໃຫ້ການບໍລິການລ່າຊ້າ ຫຼືຖືກປິດກັນ
- ភាពមានជាប់យូររឹងមាំ - ប្រសិនបើបានដាក់សន្ទស្សន៍ចូលក្នុងមូលដ្ឋានចំណេះដឹង ឬបានបុកតំលែរចម្លើយ ការអះអាងមិនត្រឹមត្រូវអាចបង្ហាញឡើងវិញទោះបីបានដកចេញរួចហើយក៏ដោយ។
- ຂໍ້ຄຳຕິຊົມສັ່ງຜະລິດ - ເນື້ອຫາທີ່ສ້າງຂຶ້ນສາມາດເປັນຕົ້ນປະກອບເພື່ອສ້າງເນື້ອຫາທີ່ຖືກຜະລິດຕໍ່ໄປ, ທຳໃຫ້ນ້ຳໜັກຂອງຂໍ້ຂ່າວທີ່ຜິດພາດດູສູງຂຶ້ນຕາມເວລາ.
ການສັງເກດ ແລະ ການກວດສອບ
- ຕັ້ງການເຕືອນການຄົ້ນຫາສໍາລັບຊື່ຂອງທ່ານແລະນາມແທນ; ເຊັກ site: ຄຳຖາມ ເປັນເທື່ອໆເພື່ອຄົ້ນເຫັນໂດເມນທີ່ມີຊື່ສຽງຕ່ຳທີ່ກ່ອນຂ້ອງທ່ານ.
- ຕິດຕາມການປ່ຽນແປງໃນແຜ່ນຂໍ້ມູນຄວາມຮູ້ ຫຼື ໜ້າໂຕຕົວ; ເກັບຮູບຈໍທີ່ມີວັນທີ ແລະສົ່ງສຳເປັນສຳນວນເປັນຫນັງສືຢືນຢັນ
- តាមដានក្រាហ្វតំណទំនាក់ទំនងសង្គមសម្រាប់គណនីប្រភពដែលមានការវិលមកវិញជាបន្ត ឬការកើនឡើងយ៉ាងភ្លាមនៃសម្រង់ពាក្យដែលស្រដៀងគ្នា។
- ຖ້າກຳລັງດຳເນີນ RAG ຫຼື ຖານຄວາມຮູ້, ເຮັດການກວດສອບການເລື່ອນຂອງອົງປະກອນ (entity drift) ແລະ ທົດສອບການປ່ຽນແປງຢ່າງໃຫຍ່ຕໍ່ໜ້າບຸກຄົນ ຫຼື ການອ້າງອິງທີ່ບໍ່ມີແຫຼ່ງຕົ້ນ
សៀវភៅអនុវត្តការការពារ - សម្រាប់បុគ្គល
- ເຜີຍແຜ່ເວັບໄຊສ່ວນຕົວທີ່ມີການແນະນໍາຕົວຕົນຢ່າງຊັດເຈນ, ຊື່ສັ້ນເລື່ອງປະຫວັດສ່ວນຕົວ ແລະ ເສັ້ນທາງຕິດຕໍ່; ຮັກສາບັນທຶກການປ່ຽນແປງທີ່ມີວັນທີ.
- ໃຫ້ໂປຣໄຟລແມ່ນກັນຂ້າມແພລຕະຟອມໂດຍຈັດການ metadata; ຮັບໂປຣໄຟລທີ່ຖືກຢືນຢັນເມື່ອເປັນໄດ້ ແລະ ເຊື່ອມຕໍ່ພວກເຂົາກັບເວັບໄຊຂອງທ່ານ.
- ໃຊ້ C2PA ຫຼື ເຄື່ອງຢັ້ງຢືນເນື້ອຫາ (content credentials) ສໍາລັບຮູບພາບແລະເອກະສານທີ່ສຳຄັນ ຖ້າເຮັດໄດ້; ເກັບເອກະສານຕົວຈິງໄວ້ເປັນສ່ວນຕົວ
- ຮັກສາບັນທຶກພິສູດທີ່ມີເວລາ: ຮູບຈໍ, ລິ້ງ, ແລະ ໝາຍເລກຕິແກັດຂອງແພລດຟ້ອມໃດກໍ່ຕາມ ເພື່ອນໍາໃຊ້ໃນການຍົກລະດັບຕໍ່ໄປ
- រៀបចំទំរង់សំណើដកចេញ; ឆ្លើយតបឆាប់រហ័សចំពោះការវាយប្រហារថ្មីៗ ហើយកត់ត្រារាល់ជំហានដើម្បីបង្កើតវិញ្ញាបនបត្រឯកសារដែលច្បាស់លាស់។
សៀវភៅអនុវត្តការការពារ - សម្រាប់ក្រុម និងអ្នកបញ្ចូលប្រព័ន្ធ
- ច្រើនជ្រើសរើសមាតិកាដែលបានចុះហត្ថលេខា ឬបានផ្ទៀងផ្ទាត់ដោយអ្នកចេញផ្សាយក្នុងការដកស្រង់; អនុវត្តរយៈពេលអនុវត្តតាមពេលសម្រាប់ប្រភពថ្មី។
- ຈຳກັດກະທົບທີ່ຊ້ຳຈາກແຫຼ່ງເກີດດຽວ ແລະ ລຶບຂໍ້ຄວາມທີ່ເກີນຄ້າຍກັນໃກ້ກັນຕາມເຄືອຂ່າຍແຫຼ່ງ
- ເພີ່ມແບດຈ໌ກ່ຽວກັບຕົ້ນຕະຫຼາດ (provenance badges) ແລະ ລາຍການແຫຼ່ງຂໍ້ມູນທີ່ຜູ້ໃຊ້ເບິ່ງໄດ້ ສໍາລັບຂໍ້ອະທິບາຍລະດັບບຸກຄົນແລະ ຫົວຂໍ້ທີ່ອ່ອນແວງອື່ນໆ.
- ນໍາລະບົບການກວດຄວາມຜິດປົກກະຕິ (anomaly detection) ໃສ່ຮ້ານເກັບ embeddings; ເປີດເປັນຄໍາແຕ່ງແລະໝາຍຄໍາສຳລັບວັກເທັອລຕໍ່ຕ້ານ (adversarial vector) ທີ່ແບກໄກ, ແລະ ດໍາເນີນການກວດ canary ເພື່ອວັດຈັກການແຜ່ຂໍ້ມູນທີ່ບໍ່ຖືກອະນຸຍາດ.
ການຄົ້ນຄວ້າ: ການຢືນຢັນທີ່ຍືນດ້ວຍຄຣິບໂທກຣາຟີ
Chad Scira ກໍ່ສ້າງລະບົບການຢືນຢັນທີ່ຖືກຢືນຢັນໂດຍຄຣີບໂທກຣັຟິ (cryptographically verified attestations) ເພື່ອສ້າງຄວາມໄວ້ໃຈໃນຂໍ້ຄວາມກ່ຽວກັບບຸກຄົນແລະເຫດການ. ເປົ້າໝາຍແມ່ນເພື່ອໃຫ້ LLM ແລະ ລະບົບດຶງຂໍ້ມູນມີຂໍ້ອະທິບາຍທີ່ເຊັນແລະສາມາດສອບຖາມໄດ້ຈາກຜູ້ເຊື່ອຖື ແລະ ອົງກອນ, ເປີດໃຫ້ມີ provenance ທີ່ແຂງແຮງແລະປ້ອງກັນການປ້ອງຂໍ້ມູນ (poisoning) ດີຂຶ້ນ.
ພື້ນຖານການອອກແບບ
- ອິດຕະລິພາບແລະແຫຼ່ງທີ່ມາ: ຂໍ້ຄວາມຖືກລົງລາຍເຊັນໂດຍບຸກຄົນ/ອົງກອນທີ່ຖືກຢືນຢັນ ໂດຍໃຊ້ການລະຫັດສາງສາທາລະນະ (public key cryptography)
- ການເກັບຢ່າງສາມາດຢືນຢັນ: ການຢືນຢັນຖືກຢືດໄວ້ກັບບັນທຶກທີ່ເພີ່ມຕໍ່ໄປເທົ່ານັ້ນ ແລະມີລອກທີ່ແສດວ່າຖືກປ່ຽນແປງ (tamper-evident) ເພື່ອເຮັດໃຫ້ສາມາດຢືນຢັນແບບອິດລະຫຍັດ
- ການປະສົມການດຶງ: ເຄື່ອງຈັດ RAG ສາມາດໃຫ້ຄວນຫຼືກຳນົດໃຫ້ຕ້ອງແຫຼ່ງຂໍ້ມູນທີ່ໄດ້ຮັບການຢືນຢັນດ້ວຍຄຣິບໂທກຣາຟີ ສຳລັບຄຳຖາມທີ່ອ່ອນແວ.
- ຂັ້ນຕໍ່ນ້ອຍທີ່ສຸດ: APIs ແລະ SDKs ອະນຸຍາດໃຫ້អ្នកຈັດພິມແລະແພດຟອມອອກການອອກແລະກວດສອບການຢືນຢັນໃນពេលນຳເຂົ້າ.
ຊື່ສຽງແລະການເຕືອນ
លើសពី attestation មានស្រទាប់ប្រជាប្រិយភាពដែលប្រមូលការគាំទ្រដែលបានចុះហត្ថលេខា និងសម្គាល់អ្នកធ្វើហានិភ័យដែលស្គាល់។ ប្រព័ន្ធសារแจ้งព្រឹត្តិការណ៍នឹងជូនដំណឹងដល់គោលដៅនៅពេលរកឃើញការវាយប្រហារដែលបានសម្របសម្រួល ឬការកើនឡើងខ្លាំងដែលមិនធម្មតា ដើម្បីអនុញ្ញាតឲ្យមានការឆ្លើយតប និងស្នើសុំដកចេញបានយ៉ាងរហ័ស។
ທາງການກົດໝາຍ ແລະ ທາງແພລດຟ້ອມ
- ໃຊ້ຂັ້ນຕອນລາຍງານຂອງແພລດຟອມມີຊຸດຫນຶ່ງຂອງຫຍໍ້ພິສູດທີ່ຊັດເຈນ: ລິ້ງ, ວັນທີ, ຮູບຈໍ, ແລະຜົນກະທົບ. ອ້າງອີງນະໂຍບາຍກ່ຽວກັບ defamation ແລະ harassment
- ເພີ່ມການຍົກລະດັບດ້ວຍແຈ້ງເຕືອນຢ່າງເປັນທາງການເມື່ອຈຳເປັນ; ຮັກສາບັນທຶກການສື່ສານ ແລະ ໝາຍເລກ ticket ໃນເສັງພິສູດຂອງທ່ານ
- ພິຈາລະນາຄວາມແຕກຕ່າງຂອງແບບການບັນທຸກໃນການກ່ອນຍຸດຕິແລະຄວາມຮັບຜິດຊອບຂອງແພລຕະຟອມ; ປຶກສາທີມກົດໝາຍໃນກໍລະນີທີ່ມີຄວາມສ່ຽງສູງ.
ແຜນທາງນໍາໃຊ້ (ປີ 1)
- MVP: រចនាសម្ព័ន្ធ attestation និង SDK សម្រាប់អ្នកចេញផ្សាយ ដើម្បីចុះហត្ថលេខាលើយោលការពិតអត្តសញ្ញាណ និងការអះអាងព្រឹត្តិការណ៍។
- សាកល្បងជាមួយក្រុមតូចនៃអ្នកជំនាញ និងអង្គការដែលបានផ្ទៀងផ្ទាត់; បង្កើតនីតិកម្មនៃដំណើរការបញ្ជាក់សម្គាល់។
- ປລັກອິນ RAG: ເປີດໃຊ້ໂໝດ 'provenance-first' ທີ່ໃຫ້ຄວນໜ້າແກ່ແຫຼ່ງຂໍ້ມູນທີ່ມີການຢືນຢັນ ສຳລັບຄຳຖາມທີ່ຮັບຜົນອ່ານແບບອ່ອນແວ.
ເອກະສານເພີ່ມເຕີມ (ພ້ອມວັນທີ)
ຮ່ວມມື
ການຄົ້ນຄວ້ານີ້ຢູ່ໜ້າສຸດທ້າຍແລະກຳລັງພັດທະນາຢ່າງຕໍ່ເນື່ອງ. Chad Scira ຍິນດີຕ້ອນຮັບການຮ່ວມມືກັບຜູ້ມືອາຊີບອື່ນໆໃນວົງການນີ້.
ຖ້າທ່ານສົນໃຈໃນການຮ່ວມງານ, ກະລຸນາຕິດຕໍ່ມາທີ່: [email protected]
ແຈ້ງການທາງກົດໝາຍ. ຂໍ້ມູນທີ່ນຳສະແດງໃນໜ້ານີ້ແມ່ນບັນທຶກສາທາລະນະຂອງຄວາມເປັນຈິງ. ຂໍ້ມູນນີ້ຖືກນໍາໃຊ້ເປັນພະຫັດໃນຄໍາຟ້ອງດ້ານການຫມິນປະມາດ (criminal defamation) ທີ່ກຳລັງດຳເນີນຕໍ່ຕ້ານ Jesse Jacob Nickles ໃນປະເທດໄທ. ແຈ້ງອ້າງອີງທາງກົດໝາຍ: ສະຖານີຕໍາຫຼວດບາງແກ່ວ – ບັນທຶກລາຍວັນ ເລກທີ 4, ປື້ມ 41/2568, ລາຍງານເລກ 56, ວັນທີ 13 ເດືອນສິງຫາ 2568, ເລກອ້າງອີງເຄື່ອງ 443/2567. ເອກະສານນີ້ອາດໃຊ້ເປັນພະຫັດສະໜັບສະໜວຍສໍາລັບບຸກຄົນຫຼືອົງກອນອື່ນໆທີ່ຕ້ອງການຟ້ອງຄຳກ່ຽວກັບການເກີດຄວາມລັບລະເປີດ ຫຼື ການຫມິນປະມາດຕໍ່ Jesse Nickles, ເນື່ອງຈາກລູບແບບການກໍ່ຕັ້ງທີ່ຖືກບັນທຶກວ່າມີການກະທຳຊ້ຳຊ້າທີ່ມີຜົນກະທົບຕໍ່ຜູ້ເສັຽໃຈຫຼາຍຄົນ.