Какво има в „черната кутия“ на изкуствения интелект

IBM представи технология, която дава на бизнеса нова прозрачност при употребата на изкуствен интелект, позволявайки по-пълно оползотворяване на неговите възможности. 
Софтуерната услуга, която автоматично открива отклонения и обяснява как ИИ взима решения – как решенията се изграждат – работи на IBM Cloud и помага на организациите да управляват системите за изкуствен интелект, предоставени от голямо разнообразие от фирми. IBM Services ще работи и с различните бизнеси, за да им помогне да разучат и използват новата софтуерна услуга.
IBM Research ще пусне в общността на отворения код инструментариум за откриване и намаляване на отклонения в ИИ, като предложи инструменти и образователна информация, за да насърчи глобалното сътрудничество в справянето с отклонения при изкуствения интелект.

"IBM поведе индустрията в създаването на принципи за доверие и прозрачност за разработването на нови технологии с изкуствен интелект", каза Бет Смит, генерален мениджър на Watson AI в IBM. "Време е да превърнем принципите в практики. Ние даваме нова прозрачност и контрол на бизнеси, които използват изкуствен интелект и са изправени пред най-голям потенциален риск от неправилно взимане на решения."

Разработките лежат върху данни от ново изследване на Института за бизнес стойност на IBM (Institute for Business Value), което разкрива, че докато 82% от предприятията обмислят внедряването на ИИ, то 60% от тях се опасяват от проблеми с отговорността, а 63% от тях не разполагат с таланти, които да управляват технологията.
„Видимост“ вътре в решенията, които взима ИИ
Новите възможности на IBM за доверие и прозрачност на IBM Cloud работят с модели, изградени от широко разнообразие от рамки за машинно обучение и среди за изграждане на изкуствен интелект като Watson, Tensorflow, SparkML, AWS SageMaker и AzureML. Това означава, че организациите могат да се възползват от тези нови контроли за повечето популярни рамки на ИИ, използвани от предприятията. Софтуерната услуга може, също така, да бъде програмирана да следи уникалните фактори за взимане на решения във всеки работен процес на бизнеса, което й позволява да бъде персонализирана според конкретните нужди на организацията.

Напълно автоматизираната софтуерна услуга „обяснява“ на служителите взимането на решения и открива отклонения в моделите на изкуствения интелект по време на изпълнение на задачата – при самото изграждане на решения – хващайки потенциално неверни резултати, когато се появят. Най-важното – услугата, също така, автоматично препоръчва данни, които да се добавят към модела, за да се намали всяко отклонение, което е открила.

Обясненията са предоставени с лесни за разбиране понятия, които показват кои фактори влияят върху решението, от една страна и увереността в препоръката, от друга, както и факторите за тази увереност. Също така, протоколите за точността, производителността и верността на информацията на модела, както и произхода на системите за ИИ, лесно могат да бъдат проследени и използвани за цели на организацията като обслужване на клиенти, както и за регулаторни цели или нужда от за съгласие (каквито са, например, спазването на GDPR).
Всички тези възможности са достъпни чрез визуални табла за управление, които дават на бизнеса и потребителите несравнима способност да разбират, обясняват и управляват решения, ръководени от ИИ, намалявайки необходимостта от специализирани умения за работа с изкуствен интелект.