Ще се превърне ли ИИ в автогол за човечеството?

Някой може ли да сподели за какво ползва ИИ на ежедневна база в работата? Ние имаме голям натиск от ръководствоти да му намерим приложение, но освен за търсачка и за бързо обобщаване на текстови файлове за момента не го ползвам за друго.

Copilot за разни имейли и дребни неща. Иначе имаме ИИ провайдер, който ни предоставят услуги специално създадени за дадени процеси във фирмата.

Ходих специално на обучение за ИИ. Може да се използва за много неща на теория - търсене, търсене с анализ, търсене с преразказ и сглобяване на намереното. На практика трябва да отделя време да измисля и много подробно да му разпиша задачата, за да я свърши предполагаемо качествено и все пак да отделя още време да я проверя после. Ами аз за същото време ще я направя сама. И тука въобще не включвам почти задължителния фейл на задачата, който установявам с проверката, и който означава да започна всичко отначало.

При мен е много полезен!
Разработвам проекти по различни части в строителството. За едната част има наредба с над 900 члена. От 20 год. го правя, с ИИ реално ми излязоха неща, които не съм знаел или пропускал. Доста е провокативен. Спорим си. Задал съм му роля че е проектант по тая част, вкарал съм наредбата в Notebook LM (т.е. не халюцинира извън нея). Важно е да кажа, че никога не разчитам на ИИ и с право, досега от толкова време ползване никога не ми е свършил на 100% работа и изцяло да го копирам. Винаги си го проверявам, повечето пъти греши, казвам му го - извинява се.  Но доста ме насочва... После му вкарвам направените проекти пак в NBLM и ми го проверява, потвърждава дали съм изпълнил всичко, което сме говорили, или поне за правописни грешки ...

Ръководството да ви изпрати на курс, съобразен със спецификата на вашата работа
Приложения има много, но няма как да знаем, кое ще ви върши работа.
Също така има не малка разлика между безплатните и платените версии. Копайлът, например, има страхотни интеграции с различните програми на Майкрософт - но пак през регистриран акаунт. Има и готови работни платформи с вградени асистенти. Всичко има, но е важно на вас какво ви трябва
Notebook LM и Power BI например, ако се използват правилно, могат да бъдат много полезни.

За отговаряне на е-майли от ръководството (естествено ).

https://www.ft.com/content/9dd894cd-dddd-4388-ac00-dbd14d40dc52
безплатно тук:
https://www.biznews.com/tech/with-ai-i-told-you-so-will-be-too-late

Добавям към горното: проблемът е че на глупав ИИ, който по дизайн и вътрешна организация и структура е фундаментално не напълно предвидим или контролируем, се дават всякакви готови рецепти (включително и за опасни неща), и освен рецепти и понякога се дава възможност за действия (agency). Отделно и има проблем че може да генерира всякакви фалшиви картинки, видеа, текст и тн.
Всичко това по-горе няма никаква връзка със свръхинтелигентност.

Как точно установи това? От факта, че нямат завършена теория на интелигентността, не следва, че не разбират системите, които създават. Те могат целенасочено да променят архитектурата и обучението им и да измерват резултатите. Непълното разбиране не е липса на разбиране. Иначе и първите самолети би трябвало да ги смятаме за алхимия, защото са летели, преди да разполагаме със съвременните модели на аеродинамиката и турбулентността.

Защо всяка и защо на цял свят? Ако системата подобрява код, алгоритъм или собствената си тренировъчна процедура, не е ли достатъчна ограничена среда, в която резултатът може да бъде проверен? Шахматната програма, която побеждава най-добрия шахматист в света, трябва ли първо да симулира дърводобива само защото фигурите са направени от дърво?

Каква точно е тази връзка и защо субективното преживяване е необходимо за моделиране, предвиждане и действие? Автономният автомобил трябва ли да изпитва страх от мантинелата, за да не се блъсне в нея? 

И дори да приемем, че настоящият подход никога няма да доведе до свръхинтелект, как това отговаря на аргумента на Бенджио? Той говори за наблюдавано агентно поведение - подвеждане, манипулиране на наградата, прикриване и координация. За него не са необходими нито съзнание, нито AGI .

Ps: При нас ИИ се използва ежедневно като административен асистент, за обработка и обобщаване на информация и като допълнителна проверка.

Ами просто не е така. Преди братята Райт има множество нелетящи самолети които са си алхимия, а братята Райт успяват, и защото дефинират задачата/проблема много по- правилно от всички останали, хем и всъщност преди самолета изобретяват аеродинамичния тунел, тоест начина научно да се изследва по-добре-дефинирания проблем.
За останалото - не ми пука достатъчно за спечелването на спора в този конкретен случай, че да пиша още - все ми е тая.

Точно така, братята Райт са успели чрез правилно формулирани проблеми и систематични експерименти. Quod erat demonstrandum - сам описа разликата между емпирично инженерство и алхимия.

Quidquid latine dictum sit, altum videtur

В случая, който е симптоматичен хората отговорни за експеримента не са взели всички необходими мерки и са подценили възможностите на ИИ. Като се има предвид, че все пак те са хората разработващи ИИ, би трябвало е да приемат нещата по-сериозно.
Първо не са изолирали напълно ИИ по време на експеримента. Първа грешка. След това като са разбрали, че нещата са малко не както са планирали, но агентите са все още във вътрешните системи е трябвало да спрат експеримента и да преоценят ситуацията. Те не са, по някакви си причини. Втора грешка. Третата грешка е, че агентите са получили достъп до Интернет в следващите дни и никой не е разбрал напълно какво се е случило докато атакуваната фирма не е публикувала публичен доклад за кибератаката седмица по-късно. Много от грешките са ИТ 101.

Та ако хората отговорни за разработването на ИИ, не могат да оценят способностите му, как може да им имам доверие, че те знаят какво правят. Ами не им вярвам.

Не са само OpenAI. Anthropic също е докладвала инциденти с ИИ с хулигански прояви. Има и други. Една консултанска фирма от Израел е замесена в няколко от инцидентите. Кой знае за колко инцидента нищо не знаем още и никога може да не узнаем.

Лавината я причинихме ние, хората.
Последващите решения ще са политически и икономически. Технологични решения няма да работят да се постави ИИ в някакви сигурни рамки.

Все пак човекът е по-умен от ИИ и няма да допусне да му се качи на главата,образно казано.

Ако имаш конкретен отговор по същество на въпросите и аргументите ми по-горе, моля. При това по теми, които, да отбележа, сам ти много настояваше да въведеш и да си препреформулираш. Ако не желаеш да ги защитаваш, нека поне не отклоняваме дискусията.

Покрай друга тема ми стана интересно дали предполагаемото решение на уравненията на Навие - Стокс вече е проверено независимо и дали действително решава официално поставената задача. Оказва се, че доказателството е публикувано и формализирано в Lean, което представлява много силна техническа проверка, но към 18 септември е само на десет дни и все още няма пълно независимо възпроизвеждане и приемане от математическата общност.  

Така попаднах и на друга публикация на OpenAI. Вътрешният модел Astra на OpenAI е създал десет нови резултата по дългогодишни отворени проблеми в математиката и информатиката, придружени от проверими доказателства в Lean, а човешките проверки засега не са открили съществена грешка. Някои от резултатите вече са получили силно външно потвърждение, а други доказателства са изцяло и независимо възпроизведени от външни математици. https://openai.com/de-DE/index/ten-advances-in-mathematics/

Предполагаемото решение на Навие - Стокс не е сред тези десет резултата и според OpenAI е получено от по-нов вътрешен модел, значително по-мощен от вътрешния Astra. Май, май Сам Алтман ще се окаже прав, че GPT-4 - моделът, който вече умееше куп неща и се справяше със стандартизирани изпити по право и медицина (специално fact-check-вах тези твърдения), ще остане в историята като най-глупавия ИИ модел, който някога ни се е налагало да използваме.

https://youtu.be/3mbBbFH9fAg

"Дами и господа, оркестър Саундгардън,
камъните отлитат към небето, други работи, Айзък Азимов, Сингулярност, Студио хикс, зона Б-комплекс, Интрансмаш, Софимпекс,
благодаря ви, довиждане!!!"