Ти проверяваш AI. Но кой проверява теб?
Ти проверяваш AI. Но кой проверява теб?

Човекът е част от атакуваната система — от служителя, който приема заявка, до специалиста, който одобрява действие с помощта на AI. Разглеждаме как социалното инженерство, недоверените входове и неясните…
Help desk е част от периметъра. Кой пази него?
Help desk е част от периметъра. Кой пази него?

Когато служителите на help desk могат да променят достъпа до акаунти, процесите за поддръжка стават част от сигурността на идентичността. Вижте как независимата проверка на самоличност, одобрението от…
Prompt injection: когато източникът започне да издава заповеди
Prompt injection: когато източникът започне да издава заповеди

Недоверен документ в RAG система може да съдържа текст, който се опитва да насочи поведението на езиковия модел. Разглеждаме как възниква непряката инжекция на подсказки, защо прочитането на злонамерено…
Ти би разпознал фишинга. На какво се основава увереността ти?
Ти би разпознал фишинга. На какво се основава увереността ти?

Увереността, че човек ще разпознае фишинг, не доказва умение. За точна оценка съпостави самооценката с реалните резултати, трудността на тестовите съобщения и отделните показатели за кликвания и докладвания.…
AI звучи човешки. Защо му приписваш намерения?
AI звучи човешки. Защо му приписваш намерения?

Когато AI говори естествено и съпричастно, лесно му приписваме намерения и човешко разбиране. Разграничаването на наблюдаемото поведение от нашето тълкуване помага на специалистите да оценяват доверието,…
AI агентът има права. А трябва ли?
AI агентът има права. А трябва ли?

AI агентът трябва да разполага само с правата, необходими за конкретната задача. Вижте как да ограничите инструментите и credentials, да разделите четенето от изпращането, да наложите одобрение за рискови…
Човекът одобри. Значи ли това, че някой провери?
Човекът одобри. Значи ли това, че някой провери?

Одобрението от човек не доказва само по себе си, че е направена независима проверка на AI препоръката. Разгледайте как automation bias, натоварването и дизайнът на интерфейса влияят върху преценката и…
Всички са съгласни. Кой пропусна заплахата?
Всички са съгласни. Кой пропусна заплахата?

Екипното съгласие не доказва, че рискът е оценен пълно. Вижте как натискът към единодушие и неизказаните данни могат да скрият важно предупреждение и как независимите мнения, структурираната проверка на…
Гласът е на директора. Правото за превод откъде идва?
Гласът е на директора. Правото за превод откъде идва?

Разпознатият глас или образ не дава право за превод. При риск от подмяна на самоличност финансовият екип трябва да потвърди заявката по предварително известен независим канал, да провери отделно всяка…
Политиката забранява атаката. Системата спира ли я?
Политиката забранява атаката. Системата спира ли я?

Проверете дали AI системата действително спира опитите за достъп извън права и нежелано задействане на инструменти. Практичната рамка свързва защитаваните активи с входовете, правата, контролите и negative…
AI в IT индустрията: велоцирапторът срещу T. rex
AI в IT индустрията: велоцирапторът срещу T. rex

AI променя конкурентната среда в IT, но достъпът до нов инструмент сам по себе си не гарантира резултат. Предимство печелят екипите, които избират подходящи задачи, проверяват качеството, пазят сигурността…
Малък IT екип, голям обхват: AI дава зъби на велоцираптора
Малък IT екип, голям обхват: AI дава зъби на велоцираптора

AI може да помогне на малък IT екип с писане и преглед на код, създаване на тестове, подготовка на документация и обработка на повтарящи се заявки. За да носи реална полза, резултатите трябва да се проверяват…
AI и киберсигурност: бързият велоцираптор не е безразсъден
AI и киберсигурност: бързият велоцираптор не е безразсъден

AI може да ускори работата на IT екипа, но неподходящо подадени данни, прекомерни права или непроверен генериран код създават нови рискове. Научете как ясни правила, ограничен достъп, човешки контрол и…
Вашият IT отдел има ли рефлексите на T. rex?
Вашият IT отдел има ли рефлексите на T. rex?

AI експериментът може да загуби инерция заради бавни одобрения, неясна отговорност и разпокъсана информация. Научете как да планирате пилотно внедряване на AI в IT отдела, да зададете правила и критерии…
The Creator: изкуствен интелект, информационна сигурност и кибер реалността зад филма
The Creator: изкуствен интелект, информационна сигурност и кибер реалността зад филма

Какво ни казва sci-fi хитът The Creator за изкуствения интелект, AI рисковете и ползите в информационната сигурност.
Deepfake фишинг: как да проверим съмнителен гласов или видео контакт
Deepfake фишинг: как да проверим съмнителен гласов или видео контакт

Убедителният глас или образ не доказва самоличността на събеседника. Научете как да оцените съмнително искане, да проверите човека по независим канал и да докладвате контакта, без да разчитате на отделни…

Нашата мисия е да осигурим сигурност в дигиталния свят. Ние се ангажираме с подсилването на защитата и непрекъснатото обучение на нашите клиенти, за да бъдат винаги една крачка пред опасностите.

Copyright © blackhat.bg All Rights Reserved