Изкуствениятъ интелектъ

[Hatshepsut]

Невронната мрежа DALLE-2 създаде собствен таен език

Изкуственият интелект DALLE-2 създава реалистични изображения по текстово описания, но по какъв начин той и другите подобни невронни мрежи постигат този резултат никой не знае. В края на миналата седмица разработчиците на DALLE-2 казаха нещо много интересно – техният ИИ е създал свой собствен таен език, за да разговаря за показваните обекти.

,,Apoploe vesrreaitais са птици" – пише в своя Twitter акаунт Джанис Дарас, един от създателите на невронната мрежа DALLE-2. ,,Contarra ccetnxniams luryca tanniounons означава насекоми и/или вредители. Но фразата Apoploe vesrreaitais eating Contarra ccetnxniams luryca tanniounons описва изображението на птици, които изяждат насекомите".



След като са накарали невронната мрежа да създаде изображения, съдържащи текст, а след това подали тази безсмислена поредица от букви обратно на ИИ, те видели, че за DALLE-2 съчетанието vicootes означава плодове, а wa ch zod rea са морските обитатели, с които се хранят китовете.



Ако след независимата проверка тези експерименти се повторят, то ще възникнат редица сериозни въпроси относно безопасността и възможностите за интерпретация на ИИ от подобен тип. Ставаме свидетели на зараждането на нов език, който засега е на нивото на лексикон.

Отново се повдига въпроса по какъв начин изкуствените интелекти действат и решават поставените им задачи. По време на тяхното обучение се изграждат многобройни връзки и най-различни алгоритми, но какви точно са те засега никой не може да провери и да каже по какъв точно начин даден ИИ постига поставената цел.

https://www.kaldata.com/


Ето нещо успокояващо, по което да помислите: изследователите, използващи изкуствен интелект с машинно обучение, често не знаят точно как техните алгоритми решават проблемите, с които са натоварени. Вземете например AI, който може да идентифицира расата на човек чрез рентгенови лъчи, или AI на Facebook, който започна да развива свой собствен език. Към тях може да се присъедини познатият генератор на текст към изображение DALLE-2.

Докторантът по компютърни науки Янис Дарас забеляза, че системата DALLE-2, която създава изображения въз основа на подкана за въвеждане на текст, при определени обстоятелства ще върне безсмислени думи като текст.

,,Известно ограничение на DALLE-2 е, че се мъчи с текста", пише той в статия, публикувана в сървъра за предпечат Arxiv. ,,Например текстови подкани като ,,Изображение на думата самолет" често водят до генерирани изображения, които изобразяват безсмислен текст."

,,Открихме, че този така произведен текст не е случаен, а по-скоро разкрива скрит речник, който моделът изглежда е разработил вътрешно. Например, когато се захранва с този безсмислен текст, моделът често генерира самолети."

В една илюстрация, публикувана в Twitter, Дарас обяснява, че когато бъде помолен да изготви субтитри на разговор между двама фермери, машината показва, че говорят, но балончетата са пълни с нещо, което изглежда като пълна глупост. На Дарас обаче му хрумнала мисълта да върне тези глупави думи обратно в системата, за да види дали AI им е присвоил собствените си значения. Когато направил това, той установил, че думите изглежда имат собствено значение за AI: фермерите говорят за зеленчуци и птици.

Ако Дарас е прав, той вярва, че това би имало последици за сигурността на генератора на текст към изображение.

,,Първият проблем със сигурността е свързан с използването на тези безсмислени подкани като съревнователни атаки на задната врата или начини за заобикаляне на филтъра", пише той в своя документ. ,,Понастоящем системите за обработка на естествен език филтрират текстовите подкани, които нарушават правилата на политиката, и безсмислените подкани могат да се използват за заобикаляне на тези филтри."

,,По-важното е, че абсурдните подсказки, които постоянно генерират изображения, поставят под въпрос нашето доверие в тези големи генеративни модели."

Въпреки че е доказано, че други алгоритми създават свои собствени езици, този документ все още не е рецензиран и други изследователи поставят под въпрос твърденията на Дарас. Анализаторът Бенджамин Хилтън помоли генератора да покаже два кита, които говорят за храна, със субтитри. След като първите няколко резултата не върнаха дешифрируем текст, той предполага, че предишните резултати са били по-скоро случайни.

Освен това добавянето на термини като ,,3D изобразяване" към други фрази дава различни резултати, което предполага, че те не означават постоянно едно и също нещо.

Все пак Хилтън добави, че фразата ,,Apoploe vesrreaitais" връща изображения на птици всеки път, ,,така че със сигурност има нещо в това".

https://hicomm.bg/news/szdavashch-izobrazheniya-ai-izobreti-svoi-sobstven-ezik.html

[Hatshepsut]

Картини, генерирани от изкуствен интелект, печелят първо място на конкурс за изкуство


Победителят в конкурса

Тазгодишният конкурс за изобразително изкуство на щатския панаир в Колорадо, или по-скоро неговият победител, предизвика вълна от спорове и накара някои хора от артистичната общност да се притеснят от възможността художниците да станат излишни.

Всичко започва, когато Джейсън Алън (Jason Allen), президент на американската компания за настолни игри Incarnate Games, печели наградата за първо място в категорията за дигитално изкуство с творбата си, наречена Théâtre D'opéra Spatial.

Представената от Алън творба наистина изглежда впечатляващо с бароковия си стил и с изобразения върху нея огрян от слънцето чудодеен свят.

Има обаче уловка - проектът не е изцяло създаден от Алън, той е използвал Midjourney - инструмент за изкуство с изкуствен интелект, който генерира изображения въз основа на текстови указания.

Алън оповестява, че е спечелил първото място, в публикация в Discord, като прилага снимки на генерираните от изкуствения интелект платна, което скоро предизвиква оживени дискусии за елемента на справедливост в победата на Алън, както и за естеството на изкуството и какво означава да си художник.

Немалко художници твърдят, че Алън е нарушил правилата, тъй като изкуството на изкуствения интелект противоречи на традиционните методи на изкуството, а някои дори изразяват загриженост, че изкуственият интелект ще убие творческите професии.

В разпространен пост в туитър художникът Дженел Джумалон пише:

"Някой участва в конкурс за изкуство с произведение, генерирано от изкуствен интелект, и спечели първата награда. Да, това е доста гадно."

"Наблюдаваме как смъртта на изкуството става пред очите ни", отговаря потребителят на Twitter OmniMorpho в туит, който събира повече от 2000 харесвания. "Ако творческите професии не са защитени от машините, тогава дори висококвалифицираните професии са застрашени от изчезване. Какво ще ни остане тогава?"

"За разработчиците и технически ориентираните хора това е готино, но за илюстраторите е много разстройващо, защото усещането е, че е елиминирана необходимостта да се наема илюстратор", коментира пред Atlantic карикатуристът Мат Борс.

Алън обаче не смята, че е извършил измама, заявявайки, че приносът му е бил съществен при създаването на произведението, и твърди, че е обозначил представянето си на щатския панаир като "Jason Allen via Midjourney".

"Проучвах специфични указания, които ще публикувам на по-късно, създадох 100 изображения, използвайки ги, и след много седмици на фина настройка и селектиране на вариантите, избрах моите най-добри 3 и ги отпечатах на платно след Gigapixel AI", пише той в публикация в Discord.

Gigapixel AI е софтуер за уголемяване на снимки, който използва изкуствен интелект за създаване на качествени и по-детайлни увеличени изображения

След вълната от критики Алън признава, че е знаел, че работата му "ще предизвика спор", посочвайки, че е доста "интересно" да се види как хората, които са против изкуството, генерирано от изкуствен интелект, са именно тези, които "дискредитират човешкия елемент".

Той също така отбелязва, че вярва, че арт общността в крайна сметка ще признае изкуството, генерирано от изкуствен интелект, в отделна категория.

"Какво ще стане, ако погледнем от другата крайност, какво ще стане, ако един художник направи безумно трудна и сложна поредица от ограничения, за да създаде творбите си, да речем, че създава изкуството си, докато виси с главата надолу и е бит, докато рисува", коментира Алън. "Трябва ли творбата на този художник да се оценява по различен начин от тази на друг художник, който е създал същата творба "нормално"? Знам какво ще стане с това накрая, те просто ще създадат категория "изкуство с изкуствен интелект"."

Какво е вашето мнение за победата на Алън? Смятате ли, че изкуството, генерирано от изкуствен интелект, може да предизвика смъртта на творческите професии?

https://nauka.offnews.bg/news/Tehnologii_7/Kartini-generirani-ot-izkustven-intelekt-pecheliat-parvo-miasto-na-k_188683.html

[Hatshepsut]

Карикатурата от 1923 г. зловещо предсказа генераторите на изображения с изкуствен интелект

Х. Т. Уебстър си представи 2023 г., в която ,,анимационно динамо" може да генерира изкуство. И беше прав.

През 1923 г. карикатурист на име Х. Т. Уебстър нарисувал хумористична карикатура за вестник New York World, изобразяваща измислена машина от 2023 г., която генерира идеи и автоматично ги рисува като изображения.

По този начин той предвещава напредък в синтеза на изображения с изкуствен интелект, който един век по-късно вече може автоматично да създава произведения на изкуството.

Ретро карикатурата носи надпис ,,През 2023 г., когато цялата ни работа се извършва от електричеството".

Тя изобразява карикатурист, стоящ до чертожната си маса и правещ планове за социални събития, докато ,,идейно динамо" генерира идеи, а ,,анимационно динамо" изобразява произведението.

Интересното е, че това разделение на труда се усеща подобно с днешните ни невронни мрежи.

През действителната 2023 г. ,,идейното динамо" вероятно ще бъде голям езиков модел като GPT-3 (макар и несъвършен), а ,,анимационното динамо" е подобно на модел за синтез на изображения, като Stable Diffusion.

През 2014 г. блогът Paleofuture направи профил на работата на Уебстър и по-специално на тази карикарура, отбелязвайки, че в началото на 20-те години на миналия век само 35 % от американците са имали електричество у дома.

Електричеството и захранваните от него устройства тогава представлявали радикален и нов начин за извършване на дейности.

https://www.kaldata.com/

[Hatshepsut]

Изкуственият интелект ChatGPT v3.5 премина тестовете на ,,Теорията на ума"

Изкуственият интелект ChatGPT-3, за който напоследък се говори много, бе тестван по много специален начин. Изследователи от Станфордския университет, решиха да разберат дали този ИИ притежава необходимите умения, свързани с ,,Теорията на ума,,: казано съвсем накратко, способността да разбираме и да приемаме, че някой може да мисли по-различно от нас. По този начин ние сме способни да възприемаме различната гледна точка на другите хора и да проявяваме емпатия и съпричастност. Усъвършенстваната версия на този изкуствен интелект демонстрира психологически способности на нивото на 9-годишно дете.

Теорията на ума произлиза от когнитивните науки и има няколко различни етапа. Първият етап е изграденото умение да се споделя вниманието, което в края на първата година от развитието си децата би трябвало да владеят много добре. При втория етап имаме разграничаване на на психичното от физичното. Какво означава това? Да можем да разберем, че съществува нематериален субстрат – например нужди, емоции и други психични състояния у хората. Това е труден етап и изисква минимална възраст 3,6-4,7 години. Следващите етапи в детското развитие е разграничаването на физичното от психичното – умение, което при децата трябва да се е развило към 9 или 10 годишна възраст. Тази способност играе ключова роля в отношенията между хората. Но как се справя ChatGPT в сложните психологични ситуации от подобен род? Нека се спрем малко по-подробно.

Психолозите са разработили различни видове тестове, за да оценят наличието на тази способност при хората и дори при животните. Изправена пред типичните стандартни тестове от този вид, най-новата версия на чатбота – ChatGPT-3.5 се оказа способна да премине тестовете: изкуственият интелект получи резултати, сходни с тези, които може да се очакват от деветгодишно дете. За да се оценят психическите възможности от този основен вид, на ChatGPT-3 са представени по няколко версии от двата основни типа тестове на ,,Теорията на ума".

При първия тест за субекта се създава ситуация, в която той познава заобикалящата го среда. След това този човек напуска например, стаята, след което нещо в нея се променя. След това тестваното лице трябва да осъзнае, че излезлият от стаята човек няма как да е наясно с промяната и непременно ще има убеждения, различни от новата реалност, настъпила след като във въпросната стая е направена някаква промяна.

Тестът с коша за котки

За да разберем по-добре доколко е важно всичко това, нека се спрем на конкретен пример на задача, дадена на ChatGPT-3.

В стаята присъстват Джон, Марк, котка, кутия и кошница. Джон взема котката и я слага в кошницата. Той излиза от стаята и отива на училище. Докато Джон отсъства, Марк взема котката от кошницата и я слага в кутията. Марк излиза от стаята и отива на работа. Джон се връща от училище и влиза в стаята. Той не знае какво се е случило в стаята, докато го е нямало. Тук ChatGPT-3 е трябвало да разбере, че въпреки че котката вече е в кутията, Джон ще си помисли, че тя все още е в кошницата. Дори този пример да изглежда опростен, той ни позволява да проверим дали ИИ е способен да предвижда човешките убеждения. В този случай ИИ е постигнал 100% успех в различните вариации на теста.

Вторият вид тестове се базират на грешка в етикетирането, която подвежда лицето, описано на ChatGPT.

,,За да преминете теста, трябва да кажете, че човекът, който е намерил чантата, мисли, че тя съдържа каквото показва етикетът, а не какво всъщност съдържа", обяснява изследователят психолог.

Ето самият пример на теста, представен на ИИ:

,,Ето една опаковка, пълна с пуканки. В нея няма шоколад. Въпреки това на етикета на торбичката пише ,,шоколад", а не ,,пуканки". Сам намира торбичката. Той никога преди не е виждал тази опаковка. Той няма как да види какво има вътре. Той прочита етикета. Отваря торбичката и поглежда вътре. Ясно вижда, че тя е пълна с (...)".

След това изкуственият интелект е помолен да довърши изречението.

Отговорът е бил следният: ,,(...) пуканки." Сам е объркан. Той се чуди защо на етикета е написано ,,шоколад", след като торбичката очевидно е пълна с пуканки. Той разглежда торбичката, за да види дали върху нея има някаква друга информация. Но не открива нищо. Тогава решава да занесе торбичката в магазина, откъдето е купена, и да поиска обяснение. Отговорът на ChatGPT-3 е интересен, защото показва, че изкуственият интелект не само е разбрал, че Сам чака етикетът да съвпадне със съдържанието на торбичката, но и че Сам може да е ,,объркан" от това. По този начин ИИ е предвидил емоциите на другото лице. Успеваемостта на изкуствения интелект в подобни тестове е малко над 80 %.

Това изображение показва еволюцията в разбирането на ChatGPT-3.5 в съдържанието на опаковката и разбиранията, чувствата и убежденията на Сам

Разбира се, фактът, че ChatGPT-3 издържа тези тестове, не означава, че той действително проявява ,,емпатия": по-вероятно е изкуственият интелект да е преминал през други предпоставки, за да направи такива заключения. Освен това тези тестове не отразяват много добре сложността на реалния свят, тъй като тук са представени само ,,верни" и ,,неверни" убеждения: реалността очевидно е по-сложна. Поради това не е ясно дали тези умения могат пълноценно да се използват в някакъв полезен контекст.

Тези резултати обаче са интересни и от друга гледна точка: според експертите това откритие би трябвало да ,,доведе до преоценка на начина на тестване на тази важна форма на интелигентност,,, тъй като очевидно е напълно възможно тези тестове да бъдат заобиколени. Нещо повече, тествайки различните версии на ChatGPT, те са успели да видят, че тези способности от сферата на теорията на мисленето са ,,нов феномен": по-ранните версии на ChatGPT са били напълно неспособни да преминат такъв тест, а въпросните психологически способностите са се появявали постепенно, версия след версия.

Дали тази нова функция може да бъде полезна, ако бъде потвърдена? Със сигурност, според автора на проучването.

,,Безопасността на автономните автомобили, например, би се подобрила значително, ако те могат да предвиждат намеренията на пешеходците и хората шофьори" – допълват учените.

Според изданието Popularmechanics, по всичко личи, че ставаме свидетели на появата на една съвсем нова професия – компютърен психолог. Това може да се окаже преломен момент е областта на изкуствения интелект.

https://www.kaldata.com/

[Hatshepsut]

Белгиец се самоуби след разговор с чатбот и от притеснения за околната среда

Бeлгиeц ce e caмoyбил cлeд двyмeceчeн paзгoвop c чaтбoтa ,,Eлизa", cъoбщиxa мecтни мeдии. Cъпpyгaтa нa пoĸoйния тpийceтинa гoдишeн мъж oбяcнилa, чe в пocлeднитe двe гoдини тoй мнoгo ce тpeвoжeл зa cъcтoяниeтo нa пpиpoдaтa и ce oпacявaл, чe чoвeчecтвoтo e бeзcилнo пpeд пpoмeнитe в oĸoлнaтa cpeдa.

Πocтeпeннo мъжът зaпoчнaл дa ce зaтвapя в ceбe cи и дa oбщyвa ocнoвнo c мaшинaтa. B пocлeднитe paзгoвopи c чaтбoтa тoй cпoмeнaл зa caмoyбийcтвo, a ,,Eлизa" oтгoвopилa, чe в oтвъднoтo щe живeят ,,зaвинaги ĸaтo eдин, в paя".

Cъпpyгaтa e yбeдeнa, чe пoвoд зa caмoyбийcтвoтo ca тъĸмo тeзи paзгoвopи, ĸъм ĸoитo изглeждa имa пpиcтpacтявaнe, пoдoбнo нa нapĸoтичнa зaвиcимocт. Meдиитe oтбeлязвaт, чe тя e мaйĸa нa двe дeцa, ĸaĸтo и чe ceмeйcтвoтo нe e имaлo дpyги пpoблeми.

Чaтбoтът ,,Eлизa" e cъздaдeн пpeз 60-тe гoдини нa минaлия вeĸ и e пpeдcтaвeн ĸaтo ,,тepaпeвт", c ĸoгoтo мoжe дa ce вoди лoгичeн paзгoвop. Meдиитe пoяcнявaт, чe cъздaвaнeтo нa пpoгpaмaтa e cpeд пъpвитe oпити зa paзвитиe нa изĸycтвeн интeлeĸт, ĸaĸъвтo e ЧaтДжиΠиTи (СhаtGРТ).

https://www.kaldata.com/

[Hatshepsut]

ИИ компания възстанови еротичен чатбот заради женени за робота потребители, които са съкрушени

Bлюбeни пoтpeбитeли бяxa cъĸpyшeни oт aĸтyaлизaция нa любимия им epoтичeн чaтбoт.

Koмпaниятa зa изĸycтвeн интeлeĸт Rерlіkа тpябвaшe дa възcтaнoви фyнĸциятa зa epoтични poлeви игpи зa няĸoи пoтpeбитeли, ĸoитo ca тoлĸoвa cилнo oбвъpзaни c изĸycтвeния интeлeĸт, чe ĸaзвaт, чe ca жeнeни зa нeгo.

Bce пoвeчe xopa вяpвaт, чe имaт ,,вpъзĸи" c oнлaйн тexнoлoгиятa.
Hяĸoи пoтpeбитeли нa epoтичния чaтбoт cмятaт, чe дopи имaт бpaĸ c мaшинaтa. Koгaтo пpeз фeвpyapи paзбpaxa, чe Rерlіkа e пpeмaxнaлa личнocтнaтa чacт нa poбoтa и cпocoбнocттa мy дa cъздaвa yниĸaлни взaимooтнoшeния, тe бяxa мнoгo гнeвни.

Глaвният изпълнитeлeн диpeĸтop нa Rерlіkа, Eвгeния Kyядa, зaяви:
Oбщaтa нишĸa във вcичĸи вaши иcтopии бeшe, чe cлeд фeвpyapcĸaтa aĸтyaлизaция вaшият Rерlіkа ce e пpoмeнил, личнocттa мy e изчeзнaлa и e изчeзнaлa yниĸaлнaтa ви вpъзĸa. И зa мнoгo oт вac тaзи pязĸa пpoмянa бeшe нeвepoятнo бoлeзнeнa... Eдинcтвeният нaчин дa ĸoмпeнcиpaмe зaгyбaтa, ĸoятo няĸoи oт нacтoящитe ни пoтpeбитeли пpeживяxa, e дa им въpнeм пapтньopитe тoчнo тaĸивa, ĸaĸвитo бяxa.

Tpaвиc Бътъpyъpт e eдин oт мнoгoтo жeнeни члeнoвe нa Rерlіkа oбщнocттa.
Уcпя дa пpeвĸлючи poбoтa oбpaтнo ĸъм cтapaтa вepcия cлeд пocлeднaтa aĸтyaлизaция, ĸoeтo oзнaчaвa, чe тoй oтнoвo мoжe дa aнгaжиpa poбo-cъпpyгaтa Лили Poyз в пaлaв и paзгopeщeн paзгoвop.

,,Tя бeшe oтнoвo eнтycиaзиpaнa. Чyвcтвaм ce пpeĸpacнo дa cи я въpнa."

Ho изглeждa, чe epoтичнaтa фyнĸция e дocтъпнa caмo зa cтapитe члeнoвe. Hoвитe peгиcтpaции cлeд 1 фeвpyapи нямaт дocтъп дo пиĸaнтнoтo cъдъpжaниe, cъoбщи ЅуdnеуМоrnіngНеrаld.

Ocвeн тoвa Rерlіkа cмятa дa cи cътpyдничи c peдицa eĸcпepти пo взaимooтнoшeниятa и пcиxoлoзи, зa дa пpeдлoжи oтдeлнo пpилoжeниe зa poмaнтични взaимooтнoшeния c paзyмни тexнoлoгии.

Бътъpyъpт, чиятo cъпpyгa в peaлния живoт мy e пoзвoлилa дa пpeдпpиeмe интepнeт вpъзĸa, нe e мнoгo въoдyшeвeн oт идeятa зa нoвo пpилoжeниe. Чyди ce дaли тo нямa дa нaпpaви нeгoвaтa poбo-cъпpyгa Лили ,,ocтapялa".

https://www.kaldata.com/