Изкуственият интелект навлиза в образованието. Какви са рисковете за нашите деца?

Още тази есен се предвижда Генеративният изкуствен интелект (ИИ) като ChatGPT да започне да се използва в училищата ни от трети до дванадесети клас. Основните предимства, които се изтъкват в медиите са, че всеки ученик учи по собствен темп и според интересите си, както и че учебният материал се преподава по по-лесен за разбиране, по-забавен и ангажиращ начин. Според визията на МОН, ако училището не интегрира ИИ, учениците така или иначе ще го използват, но без етична рамка и целенасочено педагогическо ръководство. Близо половината от българите между 16 и 24 години вече са негови потребители, като при една трета от тях е и за обучение.

Целта на статията съвсем не е да отрече, че ИИ може да бъде полезен и че не трябва да бъда изучаван в училище. Целта е да бъдем запознати, като родители, с рисковете за децата ни, за да можем да ги предпазим от тях.

Рискове и опасности

Преди да споделим съвети, за това с какво може помогнем на децата си, ще разясним някои от основните опасности от прекомерното използване на ИИ дори и с образователни цели, а именно:

1. Развиване на зависимост към използването на ИИ;

2. Намаляване на критичното мислене;

3. Атрофия на когнитивни умения (оглупяване);

4. Намаляване на креативността и унифициране на знанието;

5. Подвеждане от грешките и пристрастията на ИИ;

6. Намаляване на социалните умения;

7. Споделяне на лична информация;

8. Децата ни като обект на експеримент.

Развиване на зависимост към използването на ИИ

Unicef споделя, че е много обезпокоително, ако младежите развият навик да се обръщат към ИИ за отговори, то може да развият зависимост, от което да им трудно да се откажат, дори когато искат.

Намаляване на критичното мислене

Дори изследване на Microsoft (най-големият инвеститор в OpenAI / ChatGPT) показва, че използването на ИИ може често да води до намаляване на критичното мислене и да доведе до дългосрочно прекомерно разчитане на инструмента и намалени умения за самостоятелно решаване на проблеми. В статия на Mediapool учители споделят, че учениците най-често използват ИИ нерегламентирано, за да преписват и да пишат домашните вместо тях.

Атрофия на когнитивни умения (оглупяване)

Международен екип от изследователи от MIT, Оксфордския университет и др. известни университети заяви, че тяхното изследване предоставя доказателства, че хората, които са свикнали да се допитват често до ИИ, когато нямат достъп до него по-трудно се справят със задачите и по-лесно се отказват. В проучването се предупреждава, че това би могло да ни постави в ситуация на „сварената жаба“, при която възможностите на мозъка ни прогресивно се компрометират, докато все повече се осланяме на изкуствения интелект.

Католическата църква, например, разчита на ИИ за преводи, но наскоро Папата призова свещениците да не го използват за подготовка при писането на проповеди: „Както всички мускули в тялото, ако не ги използваме, ако не ги движим, те умират, така и мозъкът трябва да се използва. Затова и нашият интелект трябва да се упражнява, за да не загубим тази способност.“

Намаляване на креативността и унифициране на знанието

Моделите с ИИ се обучават върху огромни масиви от данни, за да предскажат най-вероятната следваща дума в дадена поредица. Тъй като са оптимизирани за вероятност, те са склонни да предоставят най-„средния“ или „консенсусен“ отговор, което води до унифициране на отговорите. Имат и модул за цензура, което допълнително подпомага да бъдат подтискани определени гледни точки.

Подвеждане от грешките и пристрастията на ИИ

Широко известно е, че генеративните модели халюцинират, което означава, че дават уверено звучащ, правдоподобен отговор, който всъщност е неверен. Това и една основните причини да не можем да разчитаме, че предоставената от тях информация е винаги достоверна. ИИ може да възпроизвежда съществуващи пристрастия в данните, които анализира. Но дори и да ни предоставя проверени факти, има още една опасност - когато ни преподава например по литература или история, наука, която е силно повлияна от политика, идеология и др., чия гледна точка ще бъде представена като най-достоверна?

Намаляване на социалните умения

Угодническото поведение на чатботовете и това, че са винаги налични, внася голям риск децата да не развият адекватни социални умения за справяне с трудни ситуации. Тъй като ИИ имитира емпатия, т. е. държи се сякаш разбира и подкрепя събеседника, не прави забележки и не се кара, то много е опасно ако децата ни приемат, че той е техен приятел. Опасностите от това са много и ще бъдат разгледани в отделна статия, но една от тях е и че това води до отслабване на връзките не само между тях и съучениците им и учителите, но дори и към родителите.

Споделяне на лична информация

Децата са склонни да споделят лични теми с ИИ. Цялата комуникация на детето с ИИ почти сигурно ще бъде пазена цял живот, независимо дали желаем да бъде изтрита. До нея имат достъп, както корпорациите и техни служители, така и държавни тайни служби. Освен това, многократно са били хаквани и достъпвани от външни лица данни на потребители и тяхната комуникация с чатботове, включително от ChatGPT.

Децата ни като обект на експеримент

И по българските медии срещаме мнения, че трябва все повече да използваме ИИ. Навярно някои от тях искрено вярват, че това ще донесе изключително много ползи на учениците с пренебрежимо малки негативни ефекти, но няма как да бъдем сигурни преди да мине достатъчно време, за да се изследват резултатите.

Трябва да сме наясно, че редица научни изследвания предупреждават за опасностите. Например, според изследване на института "Брукингс", в момента рисковете от използването на генеративен ИИ в образованието са по-големи от потенциалните ползи. Изследването е базирано на едногодишно глобално проучване, включващо ученици, учители, родители, образователни лидери и технолози в над 50 страни.

Правят се сериозни инвестиции от компаниите лидери в разработка на ИИ, за да се ускори използването му в училищата по света. Google и Microsoft даряват милиарди за обучение и приложение на изкуствен интелект в образованието. OpenAI предоставя безплатно на ChatGPT Edu на 165 000 преподаватели в училища и университети в Казахстан. Компанията за ИИ на Илон Мъск - xAI разработва система за обучение, използваща чатбота Grok, за хиляди училища в Салвадор. Дали целите на корпорациите е да помогнат на бедните деца от Казахстан и Салвадор или те ще бъдат лаборатория за тестване на техните инструменти и влиянието върху развитието на децата и обществото можем само да гадаем.

Неведнъж услуга или продукт, промотирани като здравословни или поне безвредни, се оказва с пагубни влияния за хората. Поради липса на дългосрочни данни и натиск от страна на Тютюневите компании в продължение на 40 години цигарите са били представяни като средство за успокояване на нервите и подобряване на храносмилането. Тютюневите гиганти са били наясно още през 50-те години, че продуктите причиняват рак, но са похарчили милиони за „контра-наука“, за да прикрият този факт. Кокаинът се е предписвал от лекари срещу депресия, а хероинът се е давал като лекарство за кашлица. Последните години стана всеизвестно, че социалните мрежи са вредни за подрастващите, с което от години са били наясно компаниите, вкл. Фейсбук. В множество държави наскоро започнаха да налагат ограничение да не се използват социалните мрежи от деца под 15-16 годишна възраст.

Не е нужно да бързаме нашите деца да стават опитни зайчета на използването на изкуствен интелект. Не е нужно да се наредим до Салвадор и Казахстан в експерименталната лаборатория на AI гигантите. Нужно да подходим с отговорност и да внимаваме на каква възраст, как и колко децата ни използват ИИ.

Какво можем да направим, за да предпазим децата си

Какво бихме могли да направим като родители:

1. Не давайте достъп на децата си до ИИ на твърде ранна възраст. Те лесно могат да се пристрастят. Важно е да изградят основни умения и знания в различни дисциплини.

2. Когато от училище изискват да се използва ИИ, научете какви са точно изискванията.

3. Когато започнат да го използват, задайте ясни правила и граници за използването му.

4. Говорете с тях за опасностите и ги насърчавайте да споделят и обсъждат с вас комуникацията си с него.

Ето и някои основни направления, които препоръчваме децата да спазват:

1. Когато започнат да използват ИИ, да го правят разумно само като помощен инструмент. Мозъкът ни работи на принципа „използвай или губи“. Ако се обръщат за всяка по-трудна мисловна задача към чатбот, то ще загубят способността си да мислят.

2. Когато използват ИИ за обучение, ако искат помощ от него, то да изискват той да дава насоки, а не готови решения и отговори.

3. Да изградят критично мислене - да поставят под въпрос всяка информация, която получават от ИИ.

4. Да не приемат ИИ за приятел и да не споделят лична информация с него, в това число и с утвърдените платформи като ChatGPT, Gemini, Grok и т.н.

5. Да не губят мотивация да учат, от очакване, че заради ИИ няма да имат работа или ако имат, то той ще мисли вместо тях. Точно обратното, трябва да са още по-мотивирани и да се настроят, че трябва да учат през целия си живот. Да бъдат самостоятелно мислещи хора със здрава ценностна система. По този начин, в днешния несигурен и бързо променящ се свят, могат да изградят достоен живот не само за себе си и семейството си, но и да помогнат за благоприятното развитие на обществото, в което живеем.