Динамічний дует: потужний інтерфейс користувача та технологія ШІ без упереджень

Ознайомтеся з усіма сесіями на замовлення саміту Intelligent Security Summit тут.


Станом на 2021 рік 91,5% компаній повідомляють про постійні інвестиції в штучний інтелект (ШІ). Оскільки організації розглядають своє наступне велике рішення штучного інтелекту, є два ключових компоненти, про які слід пам’ятати під час цього пошуку: потужний користувальницький інтерфейс (UI) і результати без упереджень.

Поганий дизайн інтерфейсу користувача є основною причиною того, чому певна технологія не отримує високих показників впровадження в організаціях. Якщо користувальницький інтерфейс рішення штучного інтелекту простий у використанні, забезпечує високу продуктивність і має привабливі брендингові та дизайнерські функції, його вплив на бізнес і використання різко зросте.

Але, звичайно, це не обмежується лише зовнішнім виглядом і зручністю використання. Забезпечення того, щоб організації впроваджували технологію штучного інтелекту без упереджень, є ключем до постійного успіху. Алгоритми ШІ формуються на основі даних, які використовуються для їх навчання. Ці дані та сам процес навчання можуть відображати упереджені людські рішення або історичну та соціальну несправедливість, навіть якщо чутливі змінні видалити. Щоб підтримувати та зміцнювати довіру до нових можливостей штучного інтелекту, компанії повинні завжди цінувати та забезпечувати зручність використання та точність, продовжуючи підвищувати свої очікування щодо такої технології.

Ринок технологій штучного інтелекту розвивається

Оскільки штучний інтелект продовжує розвиватися, він впливає не лише на те, як працюють підприємства, але й на те, як ми функціонуємо як суспільство. Насправді використання штучного інтелекту настільки поширене, що очікується, що розмір ринку зросте з 86,9 мільярдів доларів у 2022 році до 407 мільярдів доларів до 2027 року.

Подія

Intelligent Security Summit On-Demand

Дізнайтеся про важливу роль штучного інтелекту та машинного навчання в кібербезпеці та конкретних галузевих прикладах. Дивіться сеанси за запитом сьогодні.

Дивіться тут

Незалежно від того, чи йдеться про використання штучного інтелекту в інтелектуальній обробці документів (IDP), програмного забезпечення для виявлення шахрайства, безпілотних автомобілів чи чат-ботів, цей бум залишив визначення ШІ заплутаним. Для простоти ШІ прагне імітувати людський підхід до типових проблем. З плином часу штучний інтелект продовжуватиме ставати розумнішим, оскільки ми продовжуємо вчитися та використовувати його можливості для максимального потенціалу та вирішення проблем.

Сьогодні ми досягли поворотного моменту в технологічному прогресі штучного інтелекту та можемо вирішувати повсякденні завдання та долати виклики новими, ефективними та інноваційними способами. Тим не менш, штучний інтелект також став насиченим ринком: тим, хто хоче вирішувати щоденні бізнес-проблеми, зараз важко визначити провідні рішення. Багато компаній шукають поради щодо того, які базові елементи є найважливішими при оцінці технологій штучного інтелекту, і їх дизайн інтерфейсу користувача та результати без упереджень мають виділятися.

Пріоритет потужного інтерфейсу користувача

Глибоке навчання — це тип машинного навчання (ML), заснований на штучних нейронних мережах. Це математичні структури, частково натхненні формою та функціями мозку, і вони здатні навчатися на прикладі у спосіб, подібний до того, як навчаються люди.

Протягом останніх років глибоке навчання стрімко розвивалося і постійно розширює межі того, що можливо за допомогою ШІ. Це сфера штучного інтелекту, яка розвивається найшвидше, і на даний момент сфери штучного інтелекту, які не пов’язані з глибоким навчанням, можна назвати нішевими.

Щоб пояснити далі, щоразу, коли людина виправляє помилку ШІ, ШІ не повинен повторювати ту саму помилку знову. На жаль, якщо використання обмежене, штучний інтелект більше не може вчитися на прикладі та, зрештою, забезпечить погіршення результатів і низьку якість даних. Насправді низька якість даних обходиться організаціям у понад 12 мільйонів доларів США на рік і може значно зашкодити бізнес-операціям. Без дружнього інтерфейсу користувача співробітники не використовуватимуть рішення штучного інтелекту, а ті, хто буде використовувати його рідше, ніж рекомендовано, або використовуватимуть його неналежним чином. Все це знецінює інвестиції в штучний інтелект, оскільки моделі не навчаються і не стають кращими.

Наприклад, штучний інтелект програмується в автомобілях, і досвід користувача є ключовим для його впровадження та успіху. Зокрема, технологія допомоги при вибудуванні смуги має переваги для безпеки, але досвід може бути дуже вражаючим і відштовхуючим для водіїв, якщо вони виїжджають на іншу смугу. Залежно від моделі автомобіля, кермо може рухатися автоматично, може вмикатися сигналізація або блимати на панелі приладів.

Якщо технологія помічника в смузі надто чутлива або нестабільна, це може спричинити великі суперечки для водіїв, що негативно вплине на рівень впровадження. Зрештою, технологія перестала отримувати знання, необхідні для покращення своїх можливостей. Це стосується всіх технологій ШІ глибокого навчання. Оскільки багато хто досі не розуміє повного масштабу штучного інтелекту та його переваг, потужний і простий у використанні інтерфейс користувача має бути на передньому плані, щоб забезпечити безперервне та успішне інвестування.

Видалення зміщення ШІ з рівняння

Упередженість є всюди, і штучний інтелект не є винятком. Упередженість штучного інтелекту є основоположним упередженням у даних, які використовуються для створення алгоритмів штучного інтелекту, і зазвичай — зазвичай несвідомо — вбудовано в технологію з самого початку. Це може статися, коли моделі навчаються на даних, на які впливають повторювані людські рішення та поведінка, або на даних, які відображають наслідки другого порядку суспільної чи історичної несправедливості. Це може призвести до дискримінації та інших соціальних наслідків.

Дані, створені користувачами, також можуть створювати цикл зворотнього зв’язку, що призводить до упередженості, і упередженість може бути введена в дані через те, як вони збираються або вибираються для використання. Залежно від рішення, зміщення штучного інтелекту також може призвести до алгоритмів, повних статистичних кореляцій, які є соціально неприйнятними або незаконними. Наприклад, недавно компанія Amazon виявила, що її алгоритм найму співробітників був упереджений проти жінок. Алгоритм ґрунтувався на кількості поданих резюме за останні десять років, і оскільки більшість претендентів були чоловіками, його навчили віддавати перевагу чоловікам. Хоча це, здавалося б, нешкідливий недогляд, його вплив і вплив на просування кар’єри жінок були величезними.

Крім того, одна з найбільших проблем з упередженою технологією штучного інтелекту полягає в тому, що вона може розгортати людські та суспільні упередження на масштабпостійне надання неточних результатів і підрив довіри між кінцевим користувачем і постачальником. Забезпечення того, щоб будь-який потенційний постачальник розставляв пріоритети та послідовно проводив дослідження щодо упередженості ШІ, є ключовим. Незалежно від того, чи йдеться про расове профілювання, гендерні упередження, нерівність під час найму та/або дискримінацію за віком, усі компанії повинні пам’ятати про упередженість, коли виходять на ринок нових технологій на базі ШІ.

Поєднання потужного інтерфейсу користувача з вільним штучним інтелектом для максимального успіху

Під час розробки продукту упередженість може зіграти ключову роль в успіху інтерфейсу користувача. Крім того, можливе упередження ШІ покращений з потужним інтерфейсом користувача.

Наприклад, графічний дизайнер може захотіти включити фотографії, які він вважає привабливими та спонукають до роздумів, на цільовій сторінці програмної платформи. Це абсолютно упереджена думка, яка не базується на жодному дослідженні ринку чи відгуках клієнтів. Ці фотографії можуть вплинути на взаємодію з користувачем, а якщо вилучити фотографії, вибрані на основі особистих уподобань, можна уникнути упередженості. Ці два компоненти технології штучного інтелекту можуть швидко переплестися, і якщо організації шукають перспективного технологічного партнера, важливо дізнатися про ці елементи — та їх еволюцію — з самого початку.

Хоча зрозуміло, що технологія штучного інтелекту приносить багато цінностей організаціям, є ще чому навчитися, тому мати контрольний список важливих компонентів, які потрібно впровадити та залишатися в центрі уваги протягом усього шляху розвитку технології, є вирішальним.

Іншими словами, пошук рішення, яке не тільки має потужний інтерфейс користувача, але й активно працює над усуненням упередженості, є ключем до довготривалого, широко прийнятого, надійного та масштабованого рішення, яке виведе бізнес на новий рівень.

Петр Баудіс — технічний директор і головний архітектор штучного інтелекту в Rossum.

DataDecisionMakers

Ласкаво просимо до спільноти VentureBeat!

DataDecisionMakers — це місце, де експерти, включно з технічними спеціалістами, які працюють з даними, можуть ділитися інформацією та інноваціями, пов’язаними з даними.

Якщо ви хочете прочитати про передові ідеї та актуальну інформацію, найкращі практики та майбутнє даних і технологій обробки даних, приєднуйтесь до нас у DataDecisionMakers.

Ви навіть можете подумати про те, щоб написати власну статтю!

Докладніше від DataDecisionMakers

Leave a Comment