Развитието на изкуствения интелект напредва и все по-често някои от алгоритмите се използват в ежедневието. Хората обаче трудно разбират защо определен изкуствен интелект взима дадено решение. Затова учените разработват невронни мрежи, които да обясняват взетите решения, съобщава DigitalTrends.

 

Още от Digital: Какво представляват невронно-базираните чипове

 

Учени от Масачузетския технологичен институт (MIT) имат специален проект, който да обучи невронните мрежи да обясняват взтите от тях решения. При това ще могат да го правят с рационални аргументи, а не просто да изтъкват класификации и категории. Целта е да се даде по-голяма прозрачност на изкуствения интелект и хората да се чувстват по-уверени във взетите или предложените решения.

 

Тестовата система на учените е била обучена с ревюта за бира. Те са имали както текст, така и оценка от 1 до 5. Тази конфигурация позволява прецизна настройка на изкуствения интелект и да го научи той по същия начин да аргументира своите решения. В крайна сметка невронната мрежа е постигнала 96% съгласие с ревютата от хора, когато е прогнозирала какво ще е мнението на хората за вида и аромата на бирата.

 

Системата е още в много начална фаза. Тя обаче изглежда обещаващ вариант за платформа, която ще може с конкретика да аргументира решенията си така, че човек да ги приеме. Въпросът дали и как ще се гарантира, че не прави опити да манипулира, остава отворен.

 

Още от Digital: IBM създадоха първият в света работещ изкуствен неврон