Google отстранява инженер, който твърди, че бот с изкуствен интелект е станал разумен

Е това откога се говори, че ще се случи, а все не се получава. Даже прогнозите бяха, че милиони хора ще изгубят работата си 2020. Много си фантазират разни хора, но то е и положително, защото напредъка се движи най-много от мечтателите. Но чисто прагматично по темата мисля, че няма да се стигне до сблъсък.

Като фен на научната фантастика си мисля, че вероятно е неизбежно. А дали животът ще стане по-добър не знам, но вече сме поели по този път и няма връщане назад.

През последните години във връзка с научно изследване, с което се занимавах, четох (бегло) за генетически алгоритми, изкуствени неврологични мрежи(artificial neural networks), и двете идват от преплитане на математика с принципи, взаимствани от биологията, и са изключително интересен клон на компютърните науки. Те предлатат някаква хипотеза за възможна бъдеща еволюция на изкуствения интелект, след безкрайни грешки, поправки и отцеляване и запазване на определени подобрения, но предполагам достигането на паралелен интелект на човешко ниво е много, много далеч от сегашния момент.

Към днешна дата е императив да се сложи регулация как човечеството да управлява развитието на изкуствения интелект, преди самите ние да се самоунищожим с негова помощ.

На мен и Siri ми е прекалено умна, какво остава за мозъчни алгоритми с проекция…

Аз не мисля, че човешката интелигентност е страшно сложна; един компютър е много по-сложно устроен. Въпросът е дали ще може да се научи на самостоятелност и второ, но не задължително - да общува адекватно с нас (той може да прецени, че не му е нужно).

Това сериозно ли? Как може да сравнявате съзнание (вземане на решения и оценка на реакция-причина и цялата невероятна система(мозък и неврони) поддържаща го, с бързина и порядк на извършване на, предимно математически изчисления?

Мозъкът също е компютър и ние не знаем с абсолютна точност как работи. А вземането на решения и правенето на оценки при хората е свързано с животински инстинкти и/или заучени модели. Не е нещо, което се появява в резултат на мистичен процес.
ИИ няма да има животински инстинкти, по това определено се различава от нас.

  Математиката е много точен инструмент обаче работи с определена точност. До абсолютна точност никога не се достига, доколкото се работи с гранични стойности, а светът не е дискретен. Най-сложните процеси се описват с интеграли и диференциали, ако сте запознати с математиката, а те работят точно с приближение.Освен това изкуствения инетлект работи по заложени алгоритми и се надгражда на основа на повторяемост на данни, което не е най-доброто . За разум не може изобщо да се говори, но може да се видоизменя дадена последователност следствие на натрупване на данни, което може да доведе до много неочаквани и тревожни рeзултати. Обръщам внимание, че данните са важни, но не винаги определят най-доброто за човека решение. Иначе на вселената и е все тая.

Въпросът не е в това доколко може да се усъвършенства ИИ, а дали човешкият разум е толкова висок праг.
На много хора им харесва да си мислят, че са венец на творението и разумът им е нещо уникално; не мисля, че това е вярно.

Мозъкът е “компютър” и ние не знаем как точно работи, но знаем, че е най-слажното сътворение, познато до момента.

Ясно е че математиката не може да даде отговор на еволюцията довела до създаването на разумно същество. Който твърди, че човекът не е най-комлексното създание, може да отвори която и да е детска общообразователна книжка, например обясняваща безбройните функции ставащи в човешкия организъм и контролирани от мозъка. Не бих спорила с никой, който не е в абсолютно страхопочитание към комлексността на такова творение!

А иначе, всеки един от нас е black box, (това от компютърните науки). И абсолютно не действаме на детерминистичен принцип като в математиката, а на стохастичен, ( много грубо казано), защото случайността играе огромна роля. Благодарение на нея се получават мутации, които могат да доведат до нови качества, и обратното. Затова е възможно почти идентични преживявания, все пак да се изразят в различни реакции.

Да се стигне до съзнание и то само в един биологичен вид(доказано де), е отнело огромно количество опити и грешки. Очаквам подобен период от време и за изкуствения интелект. И съвсем не се съмнявам, че разум в непознати за нас форми съществува, но засега нямаме сетивата или спомагателните средства (вероятно подпомогнати от изкуствен интелект), да го открием.

И аз не бих спорила.
Нямам нищо против да вярвате, че човешкият разум и съзнание са нещо свръхестествено и върховно, просто аз не мисля така.

Изненада ме тази новина. Съвсем скоро имах голяма дискусия на тема AI и бях останала с впечатление, че са близо до самопоправянето на грешки в алглоритъма, но не и развитието на напълно нов сценарий. Определено си заслужава да разгледам случая с бота.

За мен е голям напредък смесването на медицина и инжинерство, не гледам от първи ред, но от втори, да кажем - и  считам това за следващата голяма крачка в човешкото развитие.

Мнение за самомислещите и саморазвиващи роботи нямам. Чакам някой да започне да се занимава с чистене и готвене, защото наистина мисля, че потенциалът на човекa не е за битовизми. Машините, които стрелят и бягат напред назад, не са ми толкова нужни, как пък не научиха една да е домашен помощник!

Изкуственият интелект е все пак е продължение на човешките опити за по-лесен живот, а понякога и възстановяване на изгубени функции - примерно изкуствени крайници, изкуствени органи и т.н. Очаква се в бъдеще професии като лекарската, да бъдат изцяло аутсорсвани на алгоритми, действащи на принципа на черна кутия - т. е вкарват се данни от истински пациенти и се оставя машината сама да се обучава и открива статистическите зависимости, въз основа на които да диагностицират заболявания.

За съжаление на доста от хората осъзнаването на последствията от дадени действия не им силната страна и като стане дума за нещо, което носи пари и власт виждат само ползите. Иначе вече от доста години нееднократно учени предупреждават, четрябва да се приеме стратегия за безопасно използване на ИИ. Последното което четох беше миналата година за доклад до СЗО, в който учени съветваха СЗО хора, а не изкуствения интелект да има последна дума при вземане на медицински решения. Доколко ще се направи е божа работа.
В Китай имаше оплакване от един от техните дисиденти, че му са наложени всякакви забрани заради изказванията му , от това да пътува до това да придобива собственост, и той няма пред кого да обжалва, защото това вече се решава от изкуствен интелект.
Преди няколко години американците пък имаха намерение да поверят цялата си отбранителна система на ИИ, но поне за онзи момент се отказаха, заради провали при тестовете. Вече може и да са я поверили.
Иначе докато четох призивите на експерта от гугъл чатбота да бъде признат за човек и да се пита дали е съгласен за експерименти с него се сетих за  "200 годишния човек" на Азимов, откъдето са и трите закона на роботиката. Навремето когато четох книгата бях твърдо на страната на робота да го признаят за човек, сега обаче изкуствен интелект с права на човек определено ми идва в повече, разумен или не.
Всъщност не мисля че машините някога ще станат разумни в човешкия смисъл на думата разум, макар че теста на Тюринг е минат от чатбот още 2014 г. Но е факт, че те вече по много начини имат право да вземат решения влияещи силно върху живота на хората. Което спорд мен рано или късно ще доведе до омраза към тях сред хората и пълното унищожаване на ИИ. Ние винаги сме по крайностите.