Публикувана: 13 септ. 2025, 09:56 ч.
Последно мнение: 19 септ. 2025, 08:26 ч.

Рисковете от сляпото доверие в ИИ

4 497
113
2

1
...
3
4
5
...
8
Всички

# 45 14 септ. 2025, 02:19 ч.

София
Мнения: 1 870

Цитат на: the Дорис в сб, 13 сеп 2025, 17:27

ИИ не си измисля информацията - той я чете, анализира и обобщава.
Почнаха да му преписват човешки черти вкл. човешка глуспот. Не, това е машина - тя не взема самостоятелни решения, не подвежда, не е ехидна или тъпа, любезна или ласкателна. Машина/процес - рови и представя намеренета информация спрямо заложения и алгоритъм.

А кой му осигурява информацията? Кой му залага алгоритъма? Не са ли хора? Ще рече човек, че машината няма досег с такива.

# 46 14 септ. 2025, 07:38 ч.

Мнения: 21 815

Цитат на: Telesilla в сб, 13 сеп 2025, 14:47

Скрит текст:

Да се похваля - преди се карах с приятели на тема политика, сега се карам с тях на тема - вреди ли ни ИИ Joy

Според мен рискове има не само от сляпото доверии в ИИ, а и изобщо от ползването му. Докато ИИ става все по-умно, хората затъпяват.

Скрит текст:

Мускулното атрофиране на обществото ни поради по-малкия физически труд, сега се допълва и от мозъчно.

Иначе има много примери, в които има рискове - ИИ постоянно предлага някакви сайтове например. Някои от тях са Ок, явно само реклама, но някои от тях са опасни даже да ги заредиш. Ако не уточниш ясно, че не искаш да ти предлага сайтове, които да ти блокират компютъра и изтеглят всичката лична информация, има риск да се случи точно това.

Също така съм забелязала, че ИИ е много подмазващ се и наистина може да те накара да си повярваш твърде много. Така че не се учудвам, че е убедило, че някой е гений. Трябва да го изпробвам това Simple Smile

Проблемът донякъде е комичен, защото дори и всъщност да си гений и ИИ да е прав, ако другите изобщо не те възприемат така, е по-добре да поддържаш по-скромна представа за себе си, за да се вписваш в обществото.

Това засега.

Има съвсем скорошно изследване на MIT върху студенти за това какъв когнитивен спад се наблюдава при честа утотреба на ИИ. Което при рандъм Пешо, който ползва чата като другарче в женомразенето, няма да е голяма загуба или осезаема промяна, но когато става дума за изследователи и учени, които могат да дадат нещо полезно на света, вече е трагедия.

# 47 14 септ. 2025, 08:18 ч.

Куциндрел
Мнения: 25 066

Понякога ползвам ИИ за работа. Установих, че може само да ми нахвърли някаква рамка или да ме насочи към нещо, но не може да ми е на 100 процента полезен. Хубавото е, че знам какъв трябва да е крайния резултат и не го карам на сляпо доверие. Също и го въртя с много въпроси по дадена тема.
Преди време исках да намеря информация за CD, на което имаше само йероглифи. За секунди ми каза кой е изпълнителя и песните. До преди ИИ за такива неща ползвах търсене в гугъл по снимки, но не винаги успявах да намеря информация и губих доста време.
Обаче наскоро го питах за нещо и цената В началото ми каза Х пари, после Y пари, като го попитах - ама ти нали каза Х пари? Той - да, така е, имаш право, цената е Y пари. Joy

Доста добре комуникира ИИ, все едно говориш с жив човек и все накрая ти предлага да ти каже и още нещо. Ако някой иска може цял ден да се занимава с него. Лично аз, след като си взема необходимото инфо, го карам да ми напише едно стихотворение. Хич го няма в тази област.

# 48 14 септ. 2025, 09:56 ч.

Мнения: 2 128

Супер си е ИИ. Основните проблеми с употребата му идват от човешкия елемент. Като всяка друга технология, ИИто е “протеза”, изкуствен придатък, заменящ и подобряващ някаква човешка способност, която е “неадекватна” на момента. Например, брадвата позволява на човек да реже дърва, строи къщи и мебели, но в ръцете на определен човешки тип, и определени социални условия, е и оръжие за унищожение на себеподобни. В тази връзка, отговорността при използването на ИИ е, от една страна - ниво индивид (критично мислене), от друга - ниво общество (колективни решения). Сега е моментът да се мисли и поставят условия, законодателство и ограничения в това, как да се ползва ИИ. Но това е и най-трудният аспект на начинанието, защото без да знаеш как ще се ползва от масовката в близкото бъдеще (пресен пример - интернетът), не се знае и как да се модулира влиянието на технологията.

Като цяло съм скептична, защото обществото, като цяло, вече обитава алтернативни реалности, където “фактите” са различни, в зависимост от къде се получават, а класическото образование “догонва”, та общ прогрес и коопериране срещу безопасното използване на най-новите технологии, едва ли ще има. За мен човешката апатия е най-голямата опасност.

# 49 14 септ. 2025, 11:46 ч.

Мнения: 13 316

Цитат на: Странната птица в нд, 14 сеп 2025, 02:19

Цитат на: the Дорис в сб, 13 сеп 2025, 17:27

Не е един алгоритъм, не е един човек, самообучава се от това, което чете.

# 50 14 септ. 2025, 12:26 ч.

Мнения: 1 731

Повечето не се самообучават. "Самообучението" представлява обновяване на базата данни, която алгоритъма ползва, т.е. борави с по-нова и повече информация, съответно дава по-правилни отговори, но то е защото търси на повече места или там където търси информацията е променена, а не защото алгоритъма е станал по-добър. Да се учи от това което си му казал и да прави когнитивни връзки от него - абсурд, далече сме още от това, макар че се работи по въпроса.

# 51 14 септ. 2025, 12:28 ч.

Мнения: 13 316

Цитат на: Little Queen в нд, 14 сеп 2025, 12:26

Повечето не се самообучават. "Самообучението" представлява обновяване на базата данни, която алгоритъма ползва, т.е. борави с по-нова и повече информация. Но да се учи от това което си му казал и да прави когнитивни връзки от него - абсурд, далече сме още от това, макар че се работи по въпроса.

Тъй като ние ползваме ИТ за писане на код - ами самообучава се и една и съща грешка нивгаш не допуска ...
Само за последната половин година има такъв напредък, че ми е малко плашещо какво ни чака.

# 52 14 септ. 2025, 12:48 ч.

Банско
Мнения: 2 409

Според мен трябва да дават достъп до всякакви технологии в интернет, както и сайтове, ако първо решиш с добър резултат няколко теста. особенно тест за интелигиентност и трябва да има пропуск с лична карта снимка за годините ти или ЕГН или нещо, което доказва кой си ти. Първо така ще се избегне идиоти даа ползват такива технологии и второ ще се търси някаква отговорност ако знаят кой си.

# 53 14 септ. 2025, 12:53 ч.

Куциндрел
Мнения: 25 066

При мен грешки не допуска само, ако продължа същия чат. Ако започвам нов се получава на едни и същи входни данни от мен тотално различни отговори.

# 54 14 септ. 2025, 13:10 ч.

Мнения: 1 731

Цитат на: the Дорис в нд, 14 сеп 2025, 12:28

Цитат на: Little Queen в нд, 14 сеп 2025, 12:26

Ние ползваме Copilot. Полезен е доста, но чак плашещо да се развива, не мисля.

Последна редакция: нд, 14 сеп 2025, 13:17 от Little Queen

# 55 14 септ. 2025, 13:15 ч.

Мнения: 1 628

Цитат на: Абуто в сб, 13 сеп 2025, 23:33

Няма да е много времето, когато ще може да си поръчаш робот с външност на мъж или жена. Ще си водим с него интелигентните разговори, а ако имаме малко повече средства може и да е усъвършенстван модел с полови функции. Кофтито е, че по този начин интелигентните ще престанем да се възпроизвеждаме и само тъпанарите ще правят деца. То и сега има подозрения, че тези роботизираните са вече между нас.
Тоя автокоректор ми идва да му забия един в носа. Всяка пета дума ми слага някаква простотия.

Знаеш ли, и аз смятам, че приближаваме времето когато ще има роботи с външност на мъж или жена.
И би имало от това позитиви. Представи си да закупиш такъв робот за възрастен родител. Няма да има нужда да го отделяш от дома му. Роботът ще може да изпълнява всички домакински функции и да вдига възрастния при нужда. Роботът ще може да води разговор, за да може възрастния да не се чувства самотен ок объркан. Роботът ще може да ти сигнализира, ако има промени в здравословното състояние на близкия. За разлика от масовият случай на нископлатени, понякога откровено садистични санитари. Отделно, хората се изморяват, изнервят. Искат отпуска, имат семейни проблеми и си го изкарват на другите. Защото не всички хора са създадени добри и грижовни. Аз бих предпочела робот

# 56 14 септ. 2025, 13:41 ч.

Мнения: 1 446

Колко да е по-лош от социалните мрежи и групите които са ехо чеймбъри където всеки ден се поства това което искаш да видиш? Лицемерно е да се говори как контакта с ИИ ще те затъпи, докато социалните мрежи са точно това, и са такива вече повече от десетилетие. Алгоритмите и модераторите на тези групи промиват мозъци лесно и безотказно. Но не виждам някой да е против социалните мрежи. Срещу ИИ са защото е ново, непознато и страшно.

# 57 14 септ. 2025, 13:51 ч.

Мнения: 24 150

Глупости.
Няма нищо общо между социални мрежи и ИИ.
Едното е място, където общуваш с Живи хора – модерацията пак е от хора – имаш избор – като не ти е ок – чао. В бг-мама също има модерация – но пишат и общуват не роботи, а живи хора.
ИИ го намирам за полезен само и единствено ползван в името на науката и систематизиране и извличане на данни, които могат да доведат до нови открития.
От там насетне е единствено и само с цел търговия.
А общуването и влюбването дори в ИИ като партньор го намирам за изключително тъжно.

# 58 14 септ. 2025, 13:56 ч.

Мнения: 11 111

Колкото и СМ да промиват мозъци, за момента все още има ситуации в живота, когато трябва да напрегнеш малко тоя мозък, за да свършиш някаква задача. С развитието на ИИ постепенно и те ще отпадат, поне за масата хора.

# 59 14 септ. 2025, 14:06 ч.

Мнения: 1 628

Цитат на: moonriver в нд, 14 сеп 2025, 13:56

Активно се говори за brain rot. Също и за писането. Хората губят своите умения за писане на текстове, но и на ръка, или не ги развиват защото има ИИ.

Препоръчани теми

Как да подарим на децата си преживявания и усещания?

Подсилване на имунната система

Аудио книги - четци и библиотеки

7 СОУ "Св. седмочисленици"

361
Училища

Причина:

Причина: