សាលាទាំងនោះហាមប្រាមការចូលប្រើ AI ChatGPT ជំនាន់មុន នឹងមិនផ្លាស់ទីម្ជុល ហើយបាត់ទូកនោះទេ និយាយថា ក្រមសីលធម៌ AI និងច្បាប់ AI

To ban, or not to ban, that is the question.

I would guess that if Shakespeare were around nowadays, he might have said something like that about the recent efforts to ban the use of a type of AI known as AI បង្កើត, which is especially exemplified and popularized due to an AI app called ChatGPT.

នេះជាកិច្ចព្រមព្រៀង។

Some high-profile entities have been attempting to ban the use of ChatGPT.

For example, the New York City (NYC) Department of Education recently announced that they were proceeding to block access to ChatGPT on its various networks and connected devices. The reported rationale for the ban consisted of indications that this AI app and the overall use of generative AI seemingly portend negative consequences for student learning. Students that opt to use ChatGPT are said to be undercutting the development of their crucial critical-thinking skills and undermining the growth of their problem-solving abilities.

On top of those rather stoutly worrisome qualms, there is the undisputed fact that such AI can produce inaccurate outputs that contain errors and other factual maladies. That’s bad. The dangerous icing on the cake is the imagined possibility that the outputs could potentially be used in an unsafe manner by students that unknowingly rely upon said falsehoods. No such documented harms have yet surfaced that I’ve seen, so we’ll need to just take at face value that this could potentially happen (I have discussed the range of possibilities in my postings; for example, some have posited that generative AI essays could tell someone to take medicines that they should not be taking or provide mental health advice that ought to be proffered by human mental health professionals, etc.).

In today’s column, I’ll examine the nature of the recently decreed bans and identify whether they make sense or not. There are a lot of questions to consider. Do such bans do any good? Are these bans enforceable? If more such bans arise, will we be aiding humankind or will we inadvertently shoot our own foot?

As you can likely guess, none of this is quite as cut and dried as it might seem on the surface.

Into all of this comes a slew of AI Ethics and AI Law considerations. Please be aware that there are ongoing efforts to imbue Ethical AI principles into the development and fielding of AI apps. A growing contingent of concerned and erstwhile AI ethicists are trying to ensure that efforts to devise and adopt AI takes into account a view of doing អាយអេសដើម្បីភាពល្អ និងការបដិសេធ អាយអេសសម្រាប់អាក្រក់. ដូចគ្នានេះដែរ មានច្បាប់ AI ថ្មីដែលត្រូវបានស្នើឡើង ដែលកំពុងត្រូវបានរុំព័ទ្ធជាដំណោះស្រាយដ៏មានសក្ដានុពល ដើម្បីរក្សាការខិតខំប្រឹងប្រែងរបស់ AI មិនឱ្យប៉ះពាល់ដល់សិទ្ធិមនុស្ស និងផ្សេងៗទៀត។ សម្រាប់ការគ្របដណ្តប់ដែលកំពុងបន្ត និងទូលំទូលាយនៃក្រមសីលធម៌ AI និងច្បាប់ AI សូមមើល តំណភ្ជាប់នៅទីនេះ និង តំណភ្ជាប់នៅទីនេះ, គ្រាន់តែឈ្មោះមួយចំនួន។

The notion of banning some types of AI is not a new conception.

In one of my columns, I closely analyzed the proposed bans associated with the use of AI for autonomous weapons systems, see តំណភ្ជាប់នៅទីនេះ. Various countries are doing weapons development that encompasses onboard AI. It is the proverbial fire-and-forget kind of weaponry. All you do is unleash the weapon and the AI takes over from that point forward. Hopefully, the AI guides the armament to the appropriate destination and detonates or delivers it suitably. There is often very little human-in-the-loop overriding since the process might happen faster than humans could react anyway, or the chance of an enemy hacking the system and preventing the weapon from doing its business is reduced or curtailed by preventing anything other than the AI from driving the ordnance.

Clearly, this is an instance where AI entails life-or-death consequences. You might convincingly argue that we should be mulling over the effects of such dire AI. It is outwardly wise to turn over every stone before we let AI get cast into concrete for autonomous weaponry. Lots of lives are at stake.

Does that same foreboding and solemnity apply to the use of generative-based AI including ChatGPT?

You would be somewhat hard-pressed to say that this type of AI is in the same league as the other type of AI that guides deadly missiles and other munitions. That being said, even if life or death is not on the line, this doesn’t mean that we cannot give due diligence to what adverse impacts generative-based AI can bring to the fore. The stakes might not be the same, nonetheless having genuine concerns about generative-based AI does have merits.

I tend to stratify various AI-related bans into the following spectrum:

• Absolute Ban
• Partial Ban
• Weak Ban
• ហាមទេ

There is also the other side of the coin, namely seeking to enable or support AI, such as represented in this spectrum:

• ការទទួលស្គាល់
• Mild Acceptance
• ការទទួលយកពេញលេញ
• តម្រូវការចាំបាច់

The various ranges of bans, along with the spans of acceptance will be handy to consider as we take a look at the recent efforts to forbid the use of ChatGPT.

First, let’s make sure we are all on the same page about what Generative AI consists of and also what ChatGPT is all about. Once we cover that foundational facet, we can perform a cogent assessment of whether bans on ChatGPT are going to be fruitful.

បឋមរហ័សអំពី Generative AI និង ChatGPT

ChatGPT គឺជាប្រព័ន្ធតម្រង់ទិសសន្ទនាអន្តរកម្ម AI គោលបំណងសំខាន់ជា chatbot ទូទៅដែលហាក់ដូចជាគ្មានកំហុស ទោះបីជាយ៉ាងណាក៏ដោយ វាត្រូវបានប្រើប្រាស់យ៉ាងសកម្ម និងដោយមនុស្សយ៉ាងសកម្មក្នុងវិធីដែលទាក់ទាញមនុស្សជាច្រើនដែលមិនប្រុងប្រយ័ត្ន ដូចដែលខ្ញុំនឹងរៀបរាប់លម្អិតក្នុងពេលឆាប់ៗនេះ។ កម្មវិធី AI នេះប្រើប្រាស់បច្ចេកទេស និងបច្ចេកវិទ្យានៅក្នុងអាណាចក្រ AI ដែលជារឿយៗត្រូវបានគេហៅថា AI បង្កើត. AI បង្កើតលទ្ធផលដូចជាអត្ថបទ ដែលជាអ្វីដែល ChatGPT ធ្វើ។ កម្មវិធី AI ដែលមានមូលដ្ឋានលើជំនាន់ផ្សេងទៀតបង្កើតរូបភាពដូចជារូបភាព ឬស្នាដៃសិល្បៈ ខណៈដែលកម្មវិធីផ្សេងទៀតបង្កើតឯកសារអូឌីយ៉ូ ឬវីដេអូ។

ខ្ញុំនឹងផ្តោតលើកម្មវិធី AI បង្កើតមូលដ្ឋានលើអត្ថបទនៅក្នុងការពិភាក្សានេះ ចាប់តាំងពីនោះជាអ្វីដែល ChatGPT ធ្វើ។

កម្មវិធី AI ជំនាន់ថ្មីគឺងាយស្រួលប្រើណាស់។

អ្វីដែលអ្នកត្រូវធ្វើគឺបញ្ចូលប្រអប់បញ្ចូល ហើយកម្មវិធី AI នឹងបង្កើតអត្ថបទមួយសម្រាប់អ្នកដែលព្យាយាមឆ្លើយតបទៅនឹងការជម្រុញរបស់អ្នក។ អត្ថបទ​ដែល​តែង​នឹង​ហាក់​ដូច​ជា​អត្ថបទ​ត្រូវ​បាន​សរសេរ​ដោយ​ដៃ​និង​ចិត្ត​របស់​មនុស្ស។ ប្រសិនបើអ្នកត្រូវបញ្ចូលប្រអប់បញ្ចូលដែលនិយាយថា "ប្រាប់ខ្ញុំអំពី Abraham Lincoln" AI ជំនាន់ថ្មីនឹងផ្តល់ឱ្យអ្នកនូវអត្ថបទអំពី Lincoln ។ នេះត្រូវបានចាត់ថ្នាក់ជាទូទៅថាជា AI ជំនាន់ដែលដំណើរការ អត្ថបទទៅអត្ថបទ ឬអ្នកខ្លះចូលចិត្តហៅវា។ អត្ថបទទៅអត្ថបទ ទិន្នផល។ ដូចដែលបានរៀបរាប់រួច មានរបៀបបង្កើត AI ផ្សេងទៀត ដូចជាអត្ថបទទៅសិល្បៈ និងអត្ថបទទៅវីដេអូ។

គំនិតដំបូងរបស់អ្នកប្រហែលជាថាសមត្ថភាពបង្កើតនេះហាក់ដូចជាមិនមែនជារឿងធំបែបនេះទេ ទាក់ទងនឹងការផលិតអត្ថបទ។ អ្នកអាចធ្វើការស្វែងរកតាមអ៊ិនធរណេតបានយ៉ាងងាយស្រួល ហើយស្វែងរកអត្ថបទជាច្រើនអំពីប្រធានាធិបតី Lincoln យ៉ាងងាយស្រួល។ ចំនុចសំខាន់នៅក្នុងករណីនៃ AI ជំនាន់នេះគឺថាអត្ថបទដែលបានបង្កើតគឺមានលក្ខណៈប្លែកពីគេ ហើយផ្តល់នូវសមាសភាពដើមជាជាង copycat ។ ប្រសិនបើអ្នកព្យាយាមស្វែងរកអត្ថបទដែលផលិតដោយ AI តាមអ៊ីនធឺណិតនៅកន្លែងណាមួយ អ្នកទំនងជាមិនអាចរកឃើញវាបានទេ។

Generative AI ត្រូវបានបណ្តុះបណ្តាលជាមុន និងប្រើប្រាស់រូបមន្តគណិតវិទ្យា និងការគណនាដ៏ស្មុគស្មាញមួយដែលត្រូវបានបង្កើតឡើងដោយការពិនិត្យមើលគំរូនៅក្នុងពាក្យ និងរឿងដែលបានសរសេរនៅលើបណ្តាញ។ ជាលទ្ធផលនៃការពិនិត្យមើលអត្ថបទដែលបានសរសេររាប់ពាន់លាន AI អាចបញ្ចេញអត្ថបទ និងរឿងថ្មីៗ ដែលជាការខុសឆ្គងនៃអ្វីដែលបានរកឃើញ។ ដោយការបន្ថែមមុខងារប្រូបាប៊ីលីតេផ្សេងៗ អត្ថបទលទ្ធផលគឺមានលក្ខណៈប្លែកពីគេក្នុងការប្រៀបធៀបទៅនឹងអ្វីដែលបានប្រើនៅក្នុងឈុតបណ្តុះបណ្តាល។

ដូច្នេះហើយ​ទើប​មាន​ការ​ចលាចល​អំពី​សិស្ស​អាច​បន្លំ​ពេល​សរសេរ​អត្ថបទ​នៅ​ក្រៅ​ថ្នាក់។ គ្រូម្នាក់មិនអាចគ្រាន់តែយកអត្ថបទដែលសិស្សបោកបញ្ឆោតអះអាងថាជាការសរសេររបស់ពួកគេផ្ទាល់ ហើយស្វែងរកថាតើវាត្រូវបានចម្លងពីប្រភពអ៊ីនធឺណិតផ្សេងទៀតដែរឬទេ។ សរុបមក វា​នឹង​មិន​មាន​អត្ថបទ​ដែល​មាន​ស្រាប់​តាម​អ៊ីនធឺណិត​ដែល​ត្រូវ​នឹង​អត្ថបទ​ដែល​បង្កើត​ដោយ AI ទេ។ អ្វី​ដែល​បាន​ប្រាប់ គ្រូ​នឹង​ត្រូវ​ទទួល​យក​ដោយ​ក្រៀមក្រំ​ថា សិស្ស​សរសេរ​អត្ថបទ​នោះ​ជា​ស្នាដៃ​ដើម។

មានការព្រួយបារម្ភបន្ថែមអំពី AI ជំនាន់។

គុណវិបត្តិដ៏សំខាន់មួយគឺថា អត្ថបទដែលផលិតដោយកម្មវិធី AI ដែលមានមូលដ្ឋានលើជំនាន់អាចមានភាពមិនពិតជាច្រើនដែលបានបង្កប់ រួមទាំងការពិតដែលមិនពិតតាមប៉ាតង់ ការពិតដែលបង្ហាញឱ្យយល់ខុស និងការពិតជាក់ស្តែងដែលត្រូវបានប្រឌិតទាំងស្រុង។ ទិដ្ឋភាព​ប្រឌិត​ទាំងនោះ​ត្រូវ​បាន​គេ​សំដៅ​ជា​ញឹកញាប់​ថា​ជា​ទម្រង់​នៃ​ AI ភាពច្របូកច្របល់ជាឃ្លាដែលខ្ញុំមិនពេញចិត្ត ប៉ុន្តែគួរឱ្យសោកស្ដាយ ហាក់ដូចជាកំពុងទទួលបានប្រជាប្រិយភាពយ៉ាងណាក៏ដោយ (សម្រាប់ការពន្យល់លម្អិតរបស់ខ្ញុំអំពីមូលហេតុដែលវាក្យសព្ទនេះអាក្រក់ និងមិនសមរម្យ សូមមើលការគ្របដណ្តប់របស់ខ្ញុំនៅ តំណភ្ជាប់នៅទីនេះ).

ខ្ញុំ​ចង់​បញ្ជាក់​ពី​ទិដ្ឋភាព​សំខាន់​មួយ​មុន​ពេល​យើង​ចូល​ទៅ​ក្នុង​រឿង​ដ៏ក្រាស់​លើ​ប្រធានបទ​នេះ។

មាន​ការ​អះអាង​លើស​ពី​ zany មួយ​ចំនួន​នៅ​លើ​ប្រព័ន្ធ​ផ្សព្វផ្សាយ​សង្គម​អំពី AI បង្កើត ការ​អះអាង​ថា​កំណែ​ចុងក្រោយ​របស់ AI នេះ​គឺ​ជា​ការ​ពិត AI អារម្មណ៍ (អត់ទេ គេខុស!) អ្នកនៅក្នុងក្រមសីលធម៌ AI និងច្បាប់ AI មានការព្រួយបារម្ភយ៉ាងខ្លាំងអំពីនិន្នាការដែលកំពុងកើនឡើងនៃការទាមទារដែលលាតសន្ធឹង។ អ្នក​ប្រហែល​ជា​និយាយ​ដោយ​គួរសម​ថា​មនុស្ស​មួយ​ចំនួន​កំពុង​និយាយ​ហួស​ពី​អ្វី​ដែល AI សព្វថ្ងៃ​អាច​ធ្វើ​បាន។ ពួកគេសន្មត់ថា AI មានសមត្ថភាពដែលយើងមិនទាន់អាចសម្រេចបាន។ នោះ​ហើយ​ជាអកុសល។ អាក្រក់ជាងនេះទៅទៀត ពួកគេអាចអនុញ្ញាតឱ្យខ្លួន និងអ្នកដ៏ទៃធ្លាក់ក្នុងស្ថានភាពធ្ងន់ធ្ងរ ដោយសារតែការសន្មត់ថា AI នឹងមានភាពស្រើបស្រាល ឬដូចមនុស្សក្នុងការធ្វើសកម្មភាព។

កុំធ្វើនិយតកម្ម AI ។

ការធ្វើដូច្នេះនឹងធ្វើឱ្យអ្នកជាប់ក្នុងអន្ទាក់ការពឹងផ្អែកដ៏ស្អិតរមួតនៃការរំពឹងថា AI ដើម្បីធ្វើរឿងដែលវាមិនអាចអនុវត្តបាន។ ជាមួយនឹងអ្វីដែលត្រូវបានគេនិយាយនោះ AI ជំនាន់ចុងក្រោយបំផុតគឺគួរឱ្យចាប់អារម្មណ៍សម្រាប់អ្វីដែលវាអាចធ្វើបាន។ សូម​ដឹង​ថា​មាន​កម្រិត​សំខាន់​ដែល​អ្នក​គួរ​តែ​ចងចាំ​ជា​បន្តបន្ទាប់​នៅ​ពេល​ដែល​ប្រើ​កម្មវិធី AI ជំនាន់​ណា​មួយ។

ប្រសិនបើអ្នកចាប់អារម្មណ៍លើភាពចលាចលដែលកំពុងរីកចម្រើនយ៉ាងឆាប់រហ័សអំពី ChatGPT និង Generative AI ដែលត្រូវបានប្រាប់ទាំងអស់នោះ ខ្ញុំបាននិងកំពុងធ្វើស៊េរីផ្តោតអារម្មណ៍នៅក្នុងជួរឈររបស់ខ្ញុំ ដែលអ្នកអាចស្វែងរកព័ត៌មាន។ នេះ​ជា​ការ​ក្រឡេក​មើល​ក្នុង​ករណី​ណា​មួយ​នៃ​ប្រធាន​បទ​ទាំង​នេះ​ចាប់​អារម្មណ៍​របស់​អ្នក៖

• 1) ការទស្សន៍ទាយនៃ AI ជំនាន់មុននឹងមកដល់។ ប្រសិនបើអ្នកចង់ដឹងពីអ្វីដែលទំនងជានឹងលាតត្រដាងអំពី AI ពេញមួយឆ្នាំ 2023 និងលើសពីនេះ រួមទាំងការជឿនលឿននាពេលខាងមុខនៃ AI និង ChatGPT នោះ អ្នកនឹងចង់អានបញ្ជីទូលំទូលាយនៃការព្យាករណ៍ឆ្នាំ 2023 របស់ខ្ញុំនៅ តំណភ្ជាប់នៅទីនេះ.
• 2) Generative AI និងការណែនាំអំពីសុខភាពផ្លូវចិត្ត។ ខ្ញុំបានជ្រើសរើសពិនិត្យមើលពីរបៀបដែល AI និង ChatGPT ដែលកំពុងត្រូវបានប្រើប្រាស់សម្រាប់ការណែនាំអំពីសុខភាពផ្លូវចិត្ត ដែលជានិន្នាការមានបញ្ហា ទៅតាមការវិភាគដែលផ្តោតលើរបស់ខ្ញុំនៅ តំណភ្ជាប់នៅទីនេះ.
• 3) បរិបទនិងការប្រើប្រាស់ AI ជំនាន់។ ខ្ញុំក៏បានធ្វើការពិនិត្យអណ្តាតតាមរដូវកាលអំពីបរិបទដែលទាក់ទងនឹងសាន់តាដែលពាក់ព័ន្ធនឹង ChatGPT និងការបង្កើត AI នៅ តំណភ្ជាប់នៅទីនេះ.
• 4) អ្នកបោកប្រាស់ដោយប្រើ AI ជំនាន់. ជាការកត់សម្គាល់ អ្នកបោកប្រាស់មួយចំនួនបានស្វែងយល់ពីរបៀបប្រើប្រាស់ AI និង ChatGPT ទូទៅដើម្បីធ្វើអំពើខុសឆ្គង រួមទាំងការបង្កើតអ៊ីមែលបោកប្រាស់ និងថែមទាំងផលិតកូដកម្មវិធីសម្រាប់មេរោគ សូមមើលការវិភាគរបស់ខ្ញុំនៅ តំណភ្ជាប់នៅទីនេះ.
• 5) កំហុសរបស់ Rookie ដោយប្រើ AI ជំនាន់. មនុស្សជាច្រើនកំពុងមើលរំលង និងគួរឱ្យភ្ញាក់ផ្អើលនូវអ្វីដែល AI និង ChatGPT ជំនាន់ថ្មីអាចធ្វើបាន ដូច្នេះខ្ញុំបានមើលជាពិសេសទៅលើការសន្និដ្ឋានដែល AI rookies មានទំនោរបង្កើត សូមមើលការពិភាក្សានៅ តំណភ្ជាប់នៅទីនេះ.
• 6) ទប់ទល់នឹងការជម្រុញ AI ជំនាន់មុន និង AI Hallucinations. ខ្ញុំពណ៌នាអំពីវិធីសាស្រ្តឈានមុខគេក្នុងការប្រើកម្មវិធីបន្ថែម AI ដើម្បីដោះស្រាយបញ្ហាផ្សេងៗដែលទាក់ទងនឹងការព្យាយាមបញ្ចូលការជម្រុញសមស្របទៅក្នុង AI ជំនាន់ថ្មី បូករួមទាំងមានកម្មវិធីបន្ថែម AI បន្ថែមសម្រាប់ការរកឃើញនូវអ្វីដែលហៅថា AI លទ្ធផលដែលបំភាន់ និងភាពមិនពិត ដូចជា គ្របដណ្តប់នៅ តំណភ្ជាប់នៅទីនេះ.
• 7) Debunking Bonehead ទាមទារអំពីការរកឃើញអត្ថបទដែលផលិតដោយ AI. មានការប្រញាប់ប្រញាល់មាសដែលបំភាន់នៃកម្មវិធី AI ដែលប្រកាសថាអាចបញ្ជាក់បានថាតើអត្ថបទដែលបានផ្តល់ឱ្យណាមួយត្រូវបានបង្កើតឡើងដោយមនុស្សធៀបនឹង AI បង្កើត។ សរុបមក នេះគឺជាការយល់ច្រឡំ ហើយក្នុងករណីខ្លះ ការទាមទារដែលមានក្បាលឆ្អឹង និងមិនអាចទទួលយកបាន សូមមើលការគ្របដណ្តប់របស់ខ្ញុំនៅ តំណភ្ជាប់នៅទីនេះ.
• 8) ការលេងតួនាទីតាមរយៈ AI ជំនាន់មុនអាចបង្ហាញពីគុណវិបត្តិនៃសុខភាពផ្លូវចិត្ត. អ្នកខ្លះកំពុងប្រើ AI ជំនាន់មុនដូចជា ChatGPT ដើម្បីដើរតួជាតួអង្គ ដែលកម្មវិធី AI ឆ្លើយតបទៅនឹងមនុស្សដូចជាមាននៅក្នុងពិភពរវើរវាយ ឬការកំណត់ផ្សេងៗ។ វាអាចមានផលប៉ះពាល់ដល់សុខភាពផ្លូវចិត្ត សូមមើល តំណភ្ជាប់នៅទីនេះ.
• 9) ការលាតត្រដាងជួរនៃកំហុសដែលបានចេញនិងភាពមិនពិត។ បញ្ជីដែលប្រមូលបានជាច្រើនកំពុងត្រូវបានដាក់បញ្ចូលគ្នា ដើម្បីសាកល្បង និងបង្ហាញពីលក្ខណៈនៃកំហុស និងភាពមិនពិតដែលផលិតដោយ ChatGPT។ អ្នក​ខ្លះ​ជឿ​ថា​នេះ​ជា​ការ​ចាំបាច់ ខណៈ​អ្នក​ខ្លះ​ទៀត​និយាយ​ថា​លំហាត់​នេះ​គ្មាន​ប្រយោជន៍ សូម​មើល​ការ​វិភាគ​របស់​ខ្ញុំ​នៅ តំណភ្ជាប់នៅទីនេះ.

អ្នកប្រហែលជាចាប់អារម្មណ៍ថា ChatGPT គឺផ្អែកលើកំណែកម្មវិធី AI ជំនាន់មុនដែលគេស្គាល់ថា GPT-3។ ChatGPT ត្រូវបានចាត់ទុកថាជាជំហានបន្ទាប់បន្តិច ដែលហៅថា GPT-3.5។ វាត្រូវបានគេរំពឹងទុកថា GPT-4 ទំនងជានឹងត្រូវបានចេញផ្សាយនៅនិទាឃរដូវឆ្នាំ 2023។ សន្មត់ថា GPT-4 នឹងជាជំហានដ៏គួរឱ្យចាប់អារម្មណ៍មួយឆ្ពោះទៅមុខក្នុងលក្ខខណ្ឌនៃការអាចផលិតអត្ថបទដែលហាក់ដូចជាកាន់តែស្ទាត់ជំនាញ កាន់តែស៊ីជម្រៅ និងគួរឱ្យស្ញប់ស្ញែង។ - បំផុសគំនិតអស្ចារ្យចំពោះសមាសភាពដែលវាអាចផលិតបាន។

អ្នកអាចរំពឹងថានឹងឃើញជុំថ្មីនៃការងឿងឆ្ងល់នៅពេលដែលរដូវផ្ការីកមកដល់ ហើយ AI ជំនាន់ចុងក្រោយបំផុតត្រូវបានចេញផ្សាយ។

ខ្ញុំលើកយកចំណុចនេះឡើង ពីព្រោះមានមុំមួយទៀតដែលត្រូវចងចាំ រួមមានកែងជើង Achilles ដ៏មានសក្ដានុពលចំពោះកម្មវិធី AI ជំនាន់កាន់តែល្អ និងធំជាងនេះ។ ប្រសិនបើអ្នកលក់ AI ណាមួយធ្វើឱ្យមានកម្មវិធី AI ជំនាន់ថ្មីដែលបញ្ចេញនូវភាពល្ងង់ខ្លៅ វាអាចបំផ្លាញក្តីសង្ឃឹមរបស់អ្នកបង្កើត AI ទាំងនោះ។ ការរីករាលដាលនៃសង្គមអាចបណ្តាលឱ្យ AI ជំនាន់ទាំងអស់ទទួលបានភ្នែកខ្មៅធ្ងន់ធ្ងរ។ មនុស្សច្បាស់ជានឹងមានការខកចិត្តយ៉ាងខ្លាំងចំពោះលទ្ធផលមិនល្អ ដែលបានកើតឡើងជាច្រើនដងរួចមកហើយ និងនាំឱ្យមានការថ្កោលទោសសង្គមដ៏ក្ដៅគគុកចំពោះ AI ។

ការព្រមានចុងក្រោយមួយសម្រាប់ពេលនេះ។

អ្វីដែលអ្នកឃើញ ឬអាននៅក្នុងការឆ្លើយតប AI ជំនាន់នោះ។ ហាក់ដូចជា ដើម្បីបង្ហាញការពិតសុទ្ធសាធ (កាលបរិច្ឆេទ ទីកន្លែង មនុស្ស។

បាទ/ចាស កាលបរិច្ឆេទអាចត្រូវបានផ្សំ ទីកន្លែងអាចត្រូវបានបង្កើតឡើង ហើយធាតុដែលយើងរំពឹងថានឹងលើសពីការប្រមាថគឺ ទាំងអស់ ប្រធានបទនៃការសង្ស័យ។ កុំជឿអ្វីដែលអ្នកបានអាន ហើយរក្សាភ្នែកដែលមានការសង្ស័យនៅពេលពិនិត្យមើលអត្ថបទ ឬលទ្ធផលនៃ AI ណាមួយ។ ប្រសិនបើកម្មវិធី AI ជំនាន់ថ្មីប្រាប់អ្នកថា Abraham Lincoln បានហោះហើរជុំវិញប្រទេសក្នុងយន្តហោះឯកជនរបស់គាត់ នោះអ្នកនឹងដឹងច្បាស់ថានេះគឺជាជំងឺគ្រុនចាញ់។ ជាអកុសល មនុស្សមួយចំនួនប្រហែលជាមិនបានដឹងថា យន្តហោះចម្បាំងមិនមាននៅក្នុងសម័យរបស់គាត់ទេ ឬពួកគេអាចដឹង ប៉ុន្តែមិនបានកត់សំគាល់ថា អត្ថបទនេះធ្វើឱ្យមានការអះអាងខុសឆ្គង និងហួសចិត្ត។

កម្រិតនៃការសង្ស័យដែលមានសុខភាពល្អ និងផ្នត់គំនិតមិនជឿជាប់លាប់នឹងជាទ្រព្យសម្បត្តិដ៏ល្អបំផុតរបស់អ្នកនៅពេលប្រើ AI ជំនាន់។

យើងត្រៀមខ្លួនរួចជាស្រេចដើម្បីឈានទៅដំណាក់កាលបន្ទាប់នៃការបំភ្លឺនេះ។

When A Ban Becomes Not Much Of A Ban

Now that we’ve got the fundamentals established, we can dive into the question of putting bans on ChatGPT. We will start with practical realities that come to play.

In the case of the NYC Department of Education, they apparently have blocked access to ChatGPT on their internal networks and their connected devices.

An obvious loophole is that a student could presumably use a different Wi-Fi network via their smartphone or other online provider and readily skirt around the blockage taking place on the campus electronic network. Envision a student sitting in a classroom who for whatever reason decides they want to use ChatGPT. They can go to the settings on their smartphone and choose a Wi-Fi network other than the campus-provided instance. Voila, the student can be using ChatGPT while seated at their desk and presumably performing school-related work.

Ban eclipsed.

Another concern that some have mentioned is that students while at home can obviously use ChatGPT as much as they wish, due to not using the campus network while at home. All that this ban seems to do is attempt to curtail usage while on-campus or otherwise when directly using the campus-provided network (a possibility via remote access too).

Worse still, some lament would be that those students that cannot afford Internet access at home are being denied (in a sense) something that other more affluent students can make use of. Whereas those affected students would have been able to use ChatGPT at school, they aren’t being allowed to do so. Perhaps this is dividing the students into the haves and the have not’s, unfairly so.

A policy with inadvertent adverse consequences, one might suggest.

We can pile more onto the thinly supported back of this attempted ban.

ChatGPT is not the only game in town. There are numerous other generative AI apps. If the ban is based on solely scanning for the ChatGPT app, all of those other generative AI apps are apparently free to roam. A student could use the campus network and opt to select a different generative AI app. By and large, the other such AI apps are comparable and will pretty much do the same things as ChatGPT.

I’ll add a few more straws to see if this camel is going to cave in. The AI maker of ChatGPT has indicated that soon an API (Application Programming Interface) will be made available for the AI app. In short, an API is a means of allowing other programs to go ahead and use a program that makes available a portal into the given application. This means that just about any other program on this planet can potentially leverage the use of ChatGPT (well, as licensed and upon approval by the AI maker of ChatGPT).

Suppose that a company makes an educational app that helps students to do time management. Great, probably heralded by most school districts. The maker of the educational app decides to use the ChatGPT API and ergo provide a generative essay capability inside of their app. You see, their educational app is what the student sees, meanwhile in the background, the app invokes ChatGPT and passes prompts to it, collects the essays generated, and displays those to the student.

A school district that is merely scanning for the ChatGPT app would be highly unlikely to know or discover that on the backend of the educational app is the use of ChatGPT. You could say that ChatGPT is hidden from view. A student that knows that the educational app is calling out to ChatGPT would easily launch the educational app and subvert the ban. Easy-peasy.

I believe that’s probably enough right now on why this particular ban is somewhat shaky.

Wait for a second, the retort goes, if ChatGPT is bad for students, the effort to ban its usage is laudable and we should be applauding these policies. Students that choose to subvert the ban, whether on-campus or off-campus, are only hurting themselves by utilizing something that has negative impacts on student learning. They are going to subvert their own education.

A weak ban is at least an attempt to right this untoward situation, they exhort. Sure, the ban might have gaping holes, but you have to give the administrators credit for trying. Maybe they can tighten up the ban. Perhaps they will figure out additional provisions to make the ban stronger.

Furthermore, the ban has vital symbolic value. The entity is telling everyone that ChatGPT is loath to the education of today’s students. Parents will potentially be alerted. AI makers that provide similar apps will be put on notice. Namely, do not try peddling this ugly stuff to our beloved pupils.

Perhaps strict policies could be drafted and implemented that abundantly declare that no generative AI is allowed for use at any time by any student, regardless of whether on-campus or off-campus. Any student caught using such a generative-based AI app would be subject to harsh penalties, possibly including being expelled from school. Be tough on violators of the policy. Show them you mean business.

Things might take an even further step. If a student uses generative-based AI and tries to surreptitiously get away with doing so, they will forever have a looming shadow over them. At some later point, if it is discovered that a student did use generative AI and failed to tell that they did, they would possibly have their degree revoked or have dour marks placed on their academic record. Slam the lid on those that are contemplating using generative AI. They should be so scared and nervous about breaking the rules that it will prevent them from putting one iota of effort toward doing so. They will be frozen in abject fear.

The count argument to these retorts is that the whole matter seems to be blown out of proportion. Draconian penalties are not the way to go. You are making a mountain out of a molehill. And you are missing the boat on the advantages and benefits of using generative AI.

Allow me to explain what the various mentioned benefits are.

Some believe that generative AI can aid students in devising better essays. A student might use an app such as ChatGPT to prepare an essay that they do not intend to turn in. Instead, they are aiming to study the generated essay. Since the essays are usually well-written, a student can closely inspect the wording, the structure, and other salient aspects. Thus, you could assert that this is a helpful learning tool.

Another advantage to using generative AI is that a student can submit their essay to the AI app and ask for a review of the essay. Apps such as ChatGPT will typically do a surprisingly decent job of dissecting a provided essay. It might not be as insightful as a review by a teacher, but the ease of use and being able to repeatedly use an AI app as much as you like makes this a useful approach (presumably, not in lieu of the teacher, instead augmenting the teacher and their limited availability).

We can keep going.

Often a student might be unsure or ostensibly puzzled when trying to come up with how to proceed on an assigned essay project. They stare at a blank sheet of paper. What are they to do? A sense of desperation and despair overtakes their spirit. Maybe they abandon the effort and resolve that they will take a flunking grade. Sadness ensues.

The student could ask generative AI such as ChatGPT to produce a proposed outline or at least some point-me-there suggestions for the essay. Based on the outputted ideas, the student reworks the structure and then writes the essay. On their own. Whether this use of the AI as a starter or engager is “cheating” depends upon your perspective. Admittedly, the AI app got the student underway, though you could contend that as long as the student wrote the essay, this is a small price to pay that the AI gave merely clues on how to proceed.

Slightly shifting gears, for the qualms about generative AI producing outputs that contain falsehoods or errors, the typical rejoinder is that students already need to realize that whatever they read, whether found on the Internet or elsewhere, can contain misinformation and disinformation. We have to make sure that students develop the appropriate skills needed to discern what is valid versus what is questionable in terms of what they read.

We’ll add generative AI to that list of sources to be scrutinized.

The gist is that students should be shown how to eye any generative AI outputs with a bit of cautionary interpretation and openly question what they read. You can take this a helpful leap forward. Give the students assignments involving using generative AI to intentionally prod the AI app into producing falsehoods. You are getting a twofer. One is that you are showing the students how this AI can generate erroneous outputs, and you are improving their skills at detecting and dealing with misinformation and disinformation. You might claim that we can turn a downside into a kind of upside, using the problems of generative AI as a learning tool on a broader basis for coping with the modern-day world and the deluge of sour and dour information.

I could go on with additional ways to use generative AI for bona fide educational pursuits. For additional coverage, see តំណភ្ជាប់នៅទីនេះ.

All told, the camp that says we ought to embrace generative AI is bound to point out that you are not going to turn back the clock anyway. Apps like ChatGPT are going to be coming out of the woodwork. You are not feasibly going to find ways to stop the bandwagon. You might as well hop on board.

That being the case, you don’t have to let chaos prevail. This camp urges that schools need to figure out policies that seek to balance the badness of essay generation with the goodness that these AI apps can provide. Show the students how to use these generative AI apps, in the right ways and how to avoid the wrong ways.

Whatever you do, certainly do not blindly unleash the use of generative AI. Work with teachers on setting policies. Make sure teachers are comfortable with using these AI apps. Introduce the generative AI apps to the students and explain what is allowed and not allowed.

The generative AI ship has already sailed.

The genie is out of the bottle.

Knee-jerk reactions to banning these AI apps are ultimately going to be futile. The other concern is that you are somewhat egging students on. By telling them they can’t use this technology, there will potentially be a tidal wave of interest in using it. You risk turning otherwise honest and fair-minded students into becoming bandits, mainly because the schools made a big to-do about invoking bans.

We all know that sometimes a forbidden fruit becomes all the more alluring. It could be that these weak bans will spur student use, far beyond what otherwise might have taken place.

Returning to my earlier indication about stratifying bans, here’s where things seem to land in the case of these recent efforts to ban ChatGPT (which I’ll broadly refer to as Generative AI):

• Absolute Ban of Generative AI: Not feasible per se and not yet especially tried
• Partial Ban of Generative AI: Almost what has been tried, but has lots of gaping holes
• Weak Ban of Generative AI: What seemingly is being tried, rampantly weak and likely ineffectual
• No Ban on Generative AI: Everyone else that is waiting to see what happens and what to do

There is also the other side of the coin, namely seeking to enable or support Generative AI, such as represented in this spectrum:

• Acknowledgment of Generative AI: Insists that schools need to at least acknowledge the existence of generative AI
• Mild Acceptance of Generative AI: Schools should allow the usage of generative AI in limited ways
• Full Acceptance of Generative AI: Schools ought to embrace generative AI in a comprehensive way
• Mandatory Requirement of Generative AI: Schools should overtly require the use of generative AI and make it a part of their curriculum and pedagogical methods

សន្និដ្ឋាន

The famous editor of the កាតាឡុកផែនដីទាំងមូល, Stewart Brand, said this notable line: “Once a new technology rolls over you, if you’re not part of the steamroller, you are part of the road.”

Some fervently believe that schools trying to ban generative-based AI are misguided. They are confused about what this AI can do and how to harness the good along with the bad. They have to wake up and be part of the steamroller, or else they will find themselves appallingly outdated and become a pot-holed forsaken rolled over part of the road (as will their students).

Others contend that it is too early to jump onto the generative-based AI craze.

Either take no action right now or take some mild action. Wait and see what arises. If there is a valid use and need for these AI apps, okay, let’s study this and systematically and cautiously figure out the best course of action entailing them in an educational milieu.

The retort by the advocates is that waiting like this, which could take years, will leave the entire matter in a state of turmoil. All manner of untoward issues will indubitably arise when there isn’t any explicit guidance. Students will be caught off-guard when suddenly they discover to their surprise that they weren’t supposed to be using these AI apps. Some will be accused of using the generative-AI apps when they weren’t doing so, a quite possible false-positive accusation that is bound to be made. On and on the morass will widen and deepen.

What do you think should be done?

Give this some sobering and mindful thought. Yes, be mindful. We are talking about the students of today and their future, and our future too. A fitting remark by Abraham Lincoln might be instructive: “The best way to predict your future is to create it.”

Let’s do so.