Публикувана: 13 септ. 2025, 09:56 ч.
Последно мнение: 19 септ. 2025, 08:26 ч.

Рисковете от сляпото доверие в ИИ

4 471
113
1

13 септ. 2025, 09:56 ч.

Мнения: 21 813

Човечеството понатрупа опит с масовото ползване на ИИ и малко по малко започнаха да стават ясни проблемите, свързани с достоверността на информацията, склонността да угажда на потребителя, да "халюцинира", когато няма достатъчно надеждни данни и пр. етични проблеми. Колкото и да се обяснява, че ИИ не трябва да бъде приеман безкритично като заместител на човешката преценка, на практика потребителите често разчитат на неговите отговори без значение дали става дума за рецепта за кисело зеле, за здраве, за финансови инвестиции, за личните, семейните и междучовешките отношения, което води до съответните рискове от съответния мащаб. И докато проваленото кисело зеле може да бъде повод за вицове, а ИИ-генерираното домашно просто да получи слаба оценка, вече има случаи на човешки трагедии от типа "стигнал до психотерапия, след като ИИ го убедил, че е непризнат гений ", "16 годишен слага край на живота си след насърчаване от ИИ" и т.н.

Въпросите са как можем да изградим у децата и родителите ни навици за проверка на информацията, за критично мислене и избягване на предоверяване, кой носи отговорност, ако човек се довери на неточна или невярна информация, предоставена от ИИ, къде е личната отговорност...

Темата не е за конспирации на тема ИИ, не е за и против конкретен продукт, а за ХОРАТА, които с различните си интелектуални и когнитивни възможности тепърва ще трябва да се учат да живеят и преценяват в новата среда, в която машинните отговори звучат убедително, дори когато нямат общо с истината, в която дейпфейк видеоизображенията ще стават все по-трудни за различаване от истинските, а границите на етичното тепърва ще бъдат обект на обсъждане и налагане.

---------------

Слагам няколко линка, които имат връзка с примерите от горния текст. На български език, за да могат да бъдат разбрани от всички.
https://www.mediapool.bg/roditeli-sadyat-chatgpt-i-oltman-za-sam … r-news374671.html

https://fakti.bg/life/992867-kanadec-beshe-ubeden-ot-chatgpt-che … ematicheski-genii

https://www.investor.bg/a/527-svyat/417610-ai-ne-prosto-lazhe-no … -kara-da-vyarvate

-----------

Повод за темата стана поредицата от сходни профили в СО, които пускат ИИ генерирани теми и постове, пълни с твърдения и тълкувания, които авторът нарича безспорни факти.
Предполагам, че и потребителите на други подфоруми имат подобни примери.

# 1 13 септ. 2025, 10:19 ч.

Мнения: 50 977

Че кой му вярва сляпо? ИИ просто преравя мрежата с огромна скорост и ти предлага вариант. Пък който го мързи после да си провери, за него си е. Иначе ИИ е перфектен за да ти напише доклад, бизнесплан, делово писмо. Даваш му указания да е по-остър, или по-учтив, или по-кратък и той генерира. Пише поздравления за сватби и рождени дни на всички езици и какво ли не. Даже програмира грубо.

# 2 13 септ. 2025, 10:20 ч.

Мнения: 4 043

За мен с ИИ ще стане това, което стана и със интернета като цяло. Ще има много полезна инфорнация, но една много голяма част ще е абсолютен гарбидж (боклук). Като например първите му "произведения" - ще се напълни нета с изкуствено генерирани видеоматериали, на които някой казва или прави нещо, което няма никаква връзка с действителността. Все още е с ниско качество, но много скоро ще е трудно да се разпознае с "просто око". Нещо, което ще доведе до още по-голямо разделение в обществото. Едни ще вярват на всичко, други няма да вярват на нищо.
ИИ може да е много полезен, но създаването му и пускането за "масова употреба" е за да се генерират печалби. Това означава да може продуктът, създаден с ИИ да стигне до колкото може повече крайни потребители.
За мен ще се получи един изпуснат изкуствен Франкенщайн. Както винаги подобни технологии минават през военните първо. А там обичат да създават чудовища, които на всичкото отгоре може да достигнат и възможност в един момент да отстраняват човека от възможността да взима крайното решение. Не очаквам ИИ с голям възторг. Просто ще е като използването на атома. Може да получим енергия, ако знаем как да регулираме безопасно процеса, но може и да създадем бомба, която да няма как да обезвредим.

Последна редакция: сб, 13 сеп 2025, 10:47 от Абуто

# 3 13 септ. 2025, 10:38 ч.

Мнения: 28 773

И аз имам известни опасения, че ИИ може да се използва с нехуманни цели. Да, той е просто програма, но хората, които стоят зад него, на тях им нямам вяра.

В Албания назначили ИИ за министър на обществените поръчки. В първия момент много се зарадвах и си пожелах по-скоро да стане и у нас. Очаква се ИИ да е безпристрастен, обективен и да не може да бъде вкаран в корупционни схеми, нали?
Обаче, като се замислих... Едва ли ще е трудно ИИ да бъде подведен, например да бъде захранен с некоректни данни, което да доведе до негови погрешни решения. И пак опираме до хората, които стоят зад технологиите – за какви цели ще ги използват.

ПП А по въпроса за критичното мислене и хората... Там отдавна съм загубила всякаква надежда. Струва ми се, че хората в това отношение не са мръднали от пещерите насам. Силата на безмозъчната тълпа не е за подценяване и никой няма намерение да се откаже от нея – било то за горене на вещици, за политически или бизнес цели. Винаги ще има желаещи да манипулират хората, а ИИ може да бъде само удобен инструмент за това.

Последна редакция: сб, 13 сеп 2025, 10:47 от Как' Сийка

# 4 13 септ. 2025, 10:55 ч.

Мнения: 13 315

Дори ИИ не е единно понятие. Ние ползваме 4 ИИ основно и няколко помощни. Платени и безплатни версии в зависимост от задачите, които изпълняват. Отговорите и задълбочеността им са различни. Пресъздаването на информацията и задълбочаването също.
Ползвам и ИИ генериращ изображения. Често ни вижда /нас хората/ като изроди, което все още ме шокира. Най-малкото би следвало да схване логиката за пропорции на чертите, частите на тялото, броя на крайниците и пръстите и т.н, но определено периодично рисува хората страховити.

# 5 13 септ. 2025, 11:03 ч.

Пловдив
Мнения: 19 647

Напомня ми за етапа: "хахаха, ама ти на Уикипедия/интернет ли вярваш?". Т.е. заедно с широкото ползване си идва и опитът, сочещ, че не може съвсем да се вярва. Дори се залита в обратната посока - когато дадеш източник от интернет или просто кажеш "чел съм го в интернет", понякога не се помисля за вариант ти да си човек, който що-годе може да прецени на кое да вярва - "ама там всеки може да напише всичко, бееее!".
Така ще стане и с ИИ в това отношение, предполагам.
Казват, че много бързо се учел.

Аз впрочем до момента не ползвам никакъв и някак не ми е приятен. Grinning

# 6 13 септ. 2025, 11:13 ч.

Мнения: 50 977

Изследване някакво беше показало, че Уикипедия е много по-надежден източник от много други, защото хиляди потребители могат да добавят или коригират и така се получавала обективна истина. Един тегли насам, друг натам, но накрая се намира равновесието. Като цяло за нормални неща Уикито е много надеждно. И много компактно и прегледно.

# 7 13 септ. 2025, 11:21 ч.

Мнения: 1 628

Цитат на: Черна станция в сб, 13 сеп 2025, 11:13

Дай линк към това проучване. Ето ти линкове за обратното:

https://www.actualno.com/europe/mashtabni-razkritija-uikipedija- … news_2431059.html

https://hicomm.bg/hronika/problemyt-s-dostovernostta-na-wikipedia.html?hl=bg-BG

https://technews.bg/article-149941.html?hl=en-US

https://tech.offnews.bg/digitalizatcia/uikipedia-e-pod-ataka-nek … 263.html?hl=en-US

Това не е истинска енциклопедия. Няма ред колектив. Има ужасно много либерални пристрастия, особено в американската.
Става за ширпотреба, но всичко трябва да се гледа със щипка сол. Да се проверява.
Няма университет в света, който да приеме като сериозен източник.
И да добавя левичарския уклон на англо-америка ската версия. За това също е писано.

Последна редакция: сб, 13 сеп 2025, 11:29 от metal.vixen

# 8 13 септ. 2025, 11:35 ч.

Другата България
Мнения: 42 309

Цитат на: Черна станция в сб, 13 сеп 2025, 10:19

Че кой му вярва сляпо?

Скрит текст:

ИИ просто преравя мрежата с огромна скорост и ти предлага вариант. Пък който го мързи после да си провери, за него си е. Иначе ИИ е перфектен за да ти напише доклад, бизнесплан, делово писмо. Даваш му указания да е по-остър, или по-учтив, или по-кратък и той генерира. Пише поздравления за сватби и рождени дни на всички езици и какво ли не. Даже програмира грубо.

Не мисля, че сериозно задаваш този въпрос.
Много хора му вярват сляпо, идея нямаш за какви сериозни неща, дори и за медицински диагнози, защото “лекарите са само търговци и нищо не разбират“. Това от една страна, от друга - именно това, което си казала - спестява време на хора, когато трябва да се напише някакъв доклад, или презентация, или дори поздравително или мотивационно писмо.
Но най-сериозния проблем е именно този

Цитат на: Как' Сийка в сб, 13 сеп 2025, 10:38

Скрит текст:

ПП А по въпроса за критичното мислене и хората... Там отдавна съм загубила всякаква надежда. Струва ми се, че хората в това отношение не са мръднали от пещерите насам. Силата на безмозъчната тълпа не е за подценяване и никой няма намерение да се откаже от нея – било то за горене на вещици, за политически или бизнес цели. Винаги ще има желаещи да манипулират хората, а ИИ може да бъде само удобен инструмент за това.

И проблемът ще се задълбочава според мен, защото наистина силата на безмозъчната тълпа нараства, и това е видно.

# 9 13 септ. 2025, 11:45 ч.

Мнения: 50 977

Цитат на: metal.vixen в сб, 13 сеп 2025, 11:21

Това не е истинска енциклопедия. Няма ред колектив. Има ужасно много либерални пристрастия, особено в американската.
Става за ширпотреба, но всичко трябва да се гледа със щипка сол. Да се проверява.
Няма университет в света, който да приеме като сериозен източник.
И да добавя левичарския уклон на англо-америка ската версия. За това също е писано.

Нямам намерение да търся линкове. Именно липсата на редактиране и свободата на хиляди анонимни автори водят до голяма достоверност. Сега, не знам как е с политическите теми и специално за САЩ, но за каквото ми е трябвало на мен винаги е било вярно - история, химия, физика, биология, технологии...
И разбира се, че Уикипедия не е сериозен източник за писане на научни трудове. Той е за редови потребители, търсещи бърза, ясна и сбита информация. Ето сега има световно по лека атлетика. Уикито може да ми каже правила, рекорди, рекордьори... И всичко е вярно.

Аз намирам ИИ за много полезен и в медицината. Когато ти изплюят някакво изследване без обяснение ИИ много добре анализира резултатите. Освен това лекарите се водят от обичайната практика и често пропускат да диагностицират специфични и редки страдания. Тогава ИИ може да подскаже идея за вероятна причина за симптомите. Което разбира се не бива да се приема за чиста монета, а само за идея, която да се провери.

# 10 13 септ. 2025, 11:52 ч.

София
Мнения: 6 620

Петата версия на ChatGPT е осезаемо по-точна и досега не съм хващала невярна информация. Въпреки това винаги проверявам на поне още две места това, което бълва.
Използвам го обаче не само за информация - незаменим е при предоставяне на синоними например. На идеи при подаден правилно промпт, на насоки за съставяне на рекламни кампании. Но всичко това трябва после да се доразвие от човек.
Според мен на ИИ трябва да се гледа като на всеки друг инструмент за работа и боравенето с него да започне да се преподава още от първи клас.

# 11 13 септ. 2025, 11:59 ч.

Мнения: 50 977

Ей сега половинката каза, че се оказал много полезен при търсене на грешка в сложен код. Допусната е някаква техническа грешка и програмата не тръгва... А е голяма и сложна, четеш, четеш и не намираш. А ИИ веднага казал - виж тук или тук и хоп, готово за половин час.

# 12 13 септ. 2025, 12:03 ч.

Другата България
Мнения: 42 309

Цитат на: Sunshine_Reggea в сб, 13 сеп 2025, 11:52

Петата версия на ChatGPT е осезаемо по-точна и досега не съм хващала невярна информация.

Скрит текст:

Въпреки това винаги проверявам на поне още две места това, което бълва.
Използвам го обаче не само за информация - незаменим е при предоставяне на синоними например. На идеи при подаден правилно промпт, на насоки за съставяне на рекламни кампании. Но всичко това трябва после да се доразвие от човек.
Според мен на ИИ трябва да се гледа като на всеки друг инструмент за работа и боравенето с него да започне да се преподава още от първи клас.

Коя версия имаш предвид, може ли линк?