អ្នកជំនាញផ្នែកសន្តិសុខ Bar Lanyado បានធ្វើការស្រាវជ្រាវមួយចំនួននាពេលថ្មីៗនេះ អំពីរបៀបដែលគំរូ AI បង្កើតបានរួមចំណែកដោយអចេតនាឆ្ពោះទៅរកការគំរាមកំហែងផ្នែកសុវត្ថិភាពដ៏ធំនៅក្នុងពិភពអភិវឌ្ឍន៍កម្មវិធី។ ការស្រាវជ្រាវបែបនេះដោយ Lanyado បានរកឃើញនិន្នាការគួរឱ្យព្រួយបារម្ភមួយ: AI ណែនាំកញ្ចប់នៃកម្មវិធីស្រមើលស្រមៃ ហើយអ្នកអភិវឌ្ឍន៍ដោយមិនបានដឹងសូម្បីតែបញ្ចូលវាទៅក្នុងមូលដ្ឋានកូដរបស់ពួកគេ។
បញ្ហាត្រូវបានបង្ហាញ
ឥឡូវនេះបញ្ហាគឺថាដំណោះស្រាយដែលបានបង្កើតគឺជាឈ្មោះប្រឌិត - អ្វីមួយធម្មតានៃ AI ។ ទោះជាយ៉ាងណាក៏ដោយ ឈ្មោះកញ្ចប់ប្រឌិតទាំងនេះត្រូវបានណែនាំដោយទំនុកចិត្តដល់អ្នកអភិវឌ្ឍន៍ដែលមានការលំបាកក្នុងការសរសេរកម្មវិធីជាមួយម៉ូដែល AI ។ ជាការពិត ឈ្មោះកញ្ចប់ដែលបានបង្កើតមួយចំនួនត្រូវបានផ្អែកលើមនុស្សមួយចំនួន ដូចជា Lanyado ហើយខ្លះបានទៅមុខ ហើយប្រែក្លាយវាទៅជាកញ្ចប់ពិតប្រាកដ។ នេះនាំឱ្យមានការរួមបញ្ចូលដោយចៃដន្យនៃកូដព្យាបាទដែលមានសក្តានុពលនៅក្នុងគម្រោងកម្មវិធីពិត និងស្របច្បាប់។
អាជីវកម្មមួយក្នុងចំណោមអាជីវកម្មដែលធ្លាក់ក្រោមឥទ្ធិពលនេះគឺ Alibaba ដែលជាតួអង្គសំខាន់មួយនៅក្នុងឧស្សាហកម្មបច្ចេកវិទ្យា។ នៅក្នុងការណែនាំអំពីការដំឡើងរបស់ពួកគេសម្រាប់ GraphTranslator, Lanyado បានរកឃើញថា Alibaba បានរួមបញ្ចូលកញ្ចប់មួយដែលមានឈ្មោះថា "huggingface-cli" ដែលត្រូវបានក្លែងបន្លំ។ តាមពិត មានកញ្ចប់ពិតដែលមានឈ្មោះដូចគ្នាបង្ហោះនៅលើសន្ទស្សន៍កញ្ចប់ Python (PyPI) ប៉ុន្តែការណែនាំរបស់ Alibaba បានសំដៅទៅលើកញ្ចប់មួយដែល Lanyado បានបង្កើត។
ការធ្វើតេស្តភាពអត់ធ្មត់
ការស្រាវជ្រាវរបស់ Lanyado មានគោលបំណងវាយតម្លៃអាយុវែង និងការកេងប្រវ័ញ្ចសក្តានុពលនៃឈ្មោះកញ្ចប់ដែលបង្កើតដោយ AI ទាំងនេះ។ ក្នុងន័យនេះ LQuery បានអនុវត្តគំរូ AI ផ្សេងគ្នាអំពីបញ្ហាប្រឈមនៃការសរសេរកម្មវិធី និងរវាងភាសាក្នុងដំណើរការនៃការយល់ដឹង ប្រសិនបើប្រកបដោយប្រសិទ្ធភាព តាមរបៀបជាប្រព័ន្ធ ឈ្មោះប្រឌិតទាំងនោះត្រូវបានណែនាំ។ វាច្បាស់ណាស់ក្នុងការពិសោធន៍នេះថាមានហានិភ័យដែលអង្គភាពបង្កគ្រោះថ្នាក់អាចបំពានឈ្មោះកញ្ចប់ដែលបង្កើតដោយ AI សម្រាប់ការចែកចាយកម្មវិធីព្យាបាទ។
លទ្ធផលទាំងនេះមានផលប៉ះពាល់យ៉ាងជ្រាលជ្រៅ។ តួអង្គមិនល្អអាចទាញយកការជឿទុកចិត្តដោយពិការភ្នែកដែលដាក់ដោយអ្នកអភិវឌ្ឍន៍នៅក្នុងការណែនាំដែលទទួលបានក្នុងរបៀបមួយដែលពួកគេអាចចាប់ផ្តើមបោះផ្សាយកញ្ចប់ដែលបង្កគ្រោះថ្នាក់ក្រោមអត្តសញ្ញាណមិនពិត។ ជាមួយនឹងគំរូ AI ហានិភ័យកើនឡើងជាមួយនឹងការណែនាំ AI ស្របគ្នាដែលត្រូវបានបង្កើតឡើងសម្រាប់ឈ្មោះកញ្ចប់ដែលបានបង្កើត ដែលនឹងត្រូវបានរួមបញ្ចូលជាមេរោគដោយអ្នកអភិវឌ្ឍន៍ដែលមិនស្គាល់។ **ផ្លូវឆ្ពោះទៅមុខ**
ដូច្នេះ នៅពេលដែល AI ត្រូវបានដាក់បញ្ចូលបន្ថែមទៀតជាមួយនឹងការអភិវឌ្ឍន៍កម្មវិធី តម្រូវការក្នុងការជួសជុលភាពងាយរងគ្រោះអាចកើតមានឡើង ប្រសិនបើភ្ជាប់ជាមួយការណែនាំដែលបង្កើតដោយ AI។ ក្នុងករណីបែបនេះ ការឧស្សាហ៍ព្យាយាមត្រូវតែត្រូវបានអនុវត្ត ដូច្នេះកញ្ចប់កម្មវិធីដែលបានស្នើសម្រាប់ការធ្វើសមាហរណកម្មគឺស្របច្បាប់។ លើសពីនេះទៅទៀត វាគួរតែស្ថិតនៅក្នុងកន្លែងសម្រាប់វេទិកាដែលបង្ហោះឃ្លាំងនៃកម្មវិធីដើម្បីផ្ទៀងផ្ទាត់ និងរឹងមាំគ្រប់គ្រាន់ដែលមិនគួរចែកចាយកូដដែលមានគុណភាពអាក្រក់។
ចំនុចប្រសព្វនៃបញ្ញាសិប្បនិម្មិត និងការអភិវឌ្ឍន៍កម្មវិធីបានបង្ហាញពីការគំរាមកំហែងផ្នែកសុវត្ថិភាព។ ដូចគ្នានេះផងដែរ គំរូ AI អាចនាំទៅរកការណែនាំដោយចៃដន្យនៃកញ្ចប់កម្មវិធីក្លែងក្លាយ ដែលបង្កហានិភ័យធំដល់សុចរិតភាពនៃគម្រោងកម្មវិធី។ ការពិតដែលថានៅក្នុងការណែនាំរបស់គាត់ Alibaba រួមបញ្ចូលប្រអប់ដែលមិនគួរមាននៅទីនោះ ប៉ុន្តែឈរជាភស្តុតាងនៃរបៀបដែលលទ្ធភាពអាចកើតឡើងនៅពេលដែលមនុស្សធ្វើតាមការណែនាំរបស់មនុស្សយន្ត។
ផ្តល់ដោយ AI ។ នៅពេលអនាគត ការប្រុងប្រយ័ត្ននឹងត្រូវចាត់វិធានការយ៉ាងសកម្ម ដើម្បីកុំឱ្យការប្រើប្រាស់ AI ខុសសម្រាប់ការអភិវឌ្ឍន៍កម្មវិធីត្រូវបានការពារ។
ប្រភព៖ https://www.cryptopolitan.com/ai-generated-software-packages-threats/