Как проводить аб тестирование. AB test: как его проводить и что для этого нужно
AB test, полезная штука, которая просто должна быть по-умолчанию в интернет проектах. Как проводить и что для этого нужно?
Сегодня тестирование гипотез и проверка идей, обязательная программа. Под эту задачу отлично подходит AB test. Давайте разберём подробнее, что это вообще такое, в чём польза и какие есть инструменты.
AB test: что это и зачем
AB test или Split test - метод маркетингового исследования, суть которого заключается в том, что вы берёте и сравниваете несколько вариантов элемента продукта с одним определенным изменением. А после смотрите какой из вариантов показал себя лучше.
К примеру, у нас родилась идея, поменять цвет кнопки на некой странице. Мы думаем, что это изменение принесёт нам больше кликов. Запускаем оба варианта, половине наших пользователей показываем вариант A, а другой половине вариант B.
По прошествии какого-то времени (продолжительность определяется перед запуском теста) замеряем результат. Смотрим какой из вариантов лучше отработал и используем его в работе. Таким образом вы можете проверять практически любые гипотезы и смотреть, что лучше работает, а что нет.
Что можно анализировать с помощью AB test?
- Конверсии. Кол-во успешных целевых действий на вашем сайте. Это может быть нажатие на кнопку “Купить”, посещение какой-то страницы или что-то ещё.
- Экономика. Средний чек или объём выручки.
- Поведенческие факторы. Глубина просмотра, длительность сеанса.
Нюансы и тонкости
- Очень важно при тестировании менять только один фактор. Если это цвет кнопки на лендинге, то мы тестируем только разные цвета кнопок и не меняем больше ничего на страницах.
- Также и с внешними факторами. Тест запускается в одно и то же время при одних и тех же условиях. В противном случае вы можете получить данные, которые будут необъективными.
Простите, что прерываю чтение. Присоединяйтесь к моему telegram канал . Свежие анонсы статей, развитие digital продуктов и growth hack, там все. Жду вас! Продолжаем…
Важно про данные
Всё было бы очень просто, если бы не одно “Но”. Можно провести AB test, получить результаты, где откровенно видно, что один из вариантов сильно лучше другого.
Например, мы показали 2 варианта страниц с разным цветом кнопок по 1000 раз каждый. Проводили тест одну неделю. И получили следующие результаты:
При одинаковых показах баннера (это важно), кол-во кликов у варианта B больше в три раза. Делаем вывод, что этот вариант более эффективный и берём его в рабочую версию, а старый удаляем.
А если, к примеру, так?
Стоит ли брать вариант B? Или может быть это просто погрешность? Да и достаточно ли показать 1000 раз каждый из вариантов, чтобы принять решение? Может к нам на сайт в день заходит 10 000 пользователей и выборка очень мала, чтобы сделать вывод? А если, данные которые мы анализируем, не просто кол-во кликов, а средний чек с транзакций?
Статистика нам в помощь
Чтобы понять, как устроен мир цифр и экспериментов, давайте немного разберём мат.часть. Если нет времени и сил, то советую пропустить этот раздел. Дальше, я дам более простые решения задачи.
Большой соблазн, когда получили результаты эксперимента, принять решение и всё, вот оно, “светлое будущее”. Но, ведь, если копнуть немножечко глубже, то за неделю распределение кликов по дням было неравномерным. Давайте распишем.
В таблице видно, что клики по дням распределены по-разному. А значит, наши значения варианта A и варианта B могут меняться каждый день. То есть, мы имеем дело со случайными величинами. Для таких случаев применяют средние значения. Но ведь, если мы проведем эксперимент ещё раз, то какова вероятность, что результат повториться?
Изобразим на графике распределение всех данных за неделю по варианту A и B.
Если мы возьмём средние величины по каждому из вариантов (это вертикальные полоски посередине двух волн), то увидим, что разница совсем невелика. Но существуют определенные отклонения, в большую и меньшую сторону от среднего. Поэтому, мы получаем пересечение двух волн. Чем оно больше, тем меньше значимость эксперимента и, соответственно, чем меньше пересечение, тем выше статистическая значимость.
Статистическая значимость, это то, насколько верны полученные результаты. То есть в нашем примере, ответ на вопрос “нужно ли брать вариант B?”.
Обычно, по-умолчанию принимают уровень значимости равный 95%. Это означает, что мы с 95% вероятностью хотим знать, стоит ли выбирать другой вариант (B) при сравнении. Оставшиеся 5%, это вероятность ошибки, которую мы допускаем или p-value в терминологии статистики.
Интересно, что многие забывают проверять уровень значимости в своих экспериментах и тем самым могут получать ошибочные данные. 8 из 10 AB тестов проходят мимо этой оценки. ( )
Не буду вдаваться долго в подробности, как рассчитывается показатель значимости, просто дам инструмент, который посчитает все за вас.
Инструменты для расчета значимости
Для оценки значимости данных советую использовать этот инструмент .
Здесь у нас A и B соответственно наши варианты. А по цифрам:
- Число посетителей/можно кол-во показов вставлять.
- Кол-во конверсий. Нажали на кнопку, зарегистрировались. В общем выполнили целевое действие.
- P-value. Вероятность ошибки, которую мы опускаем при заданных данных.
- Ответ на вопрос существенны ли, полученные изменения в нашем эксперименте.
Пример: берём данные по показам и кликам из таблицы, которую показывал выше.
Забиваем их в сервис, нажимаем на кнопку “Calculate Significance” и…
Получаем ответ “No” или “Нет” (по-русски) в нижней строке, а чуть выше p-value 0,283. Что это означает? А то, что с вероятностью 28,3% (0,283*100), если мы выберем вариант “B”, то он не принесёт никаких существенных результатов.
Чтобы эксперимент считался успешным, p-value должен быть меньше 5%
Есть ещё один сервис, в который также вбиваете данные и смотрите результат, доступен по ссылке .
На этом строится базовый принцип измерения случайных величин. Просто в тот момент, когда получите результаты AB test, прогоните их через инструмент и посмотрите, а на столько лишь значимо улучшение от другого варианта, чтобы брать его в работу?
Как понять сколько нужно данных?
Бывает так, что для получения выводов недостаточно полученных данных.Для того, чтобы понять, сколько раз нужно показать страницу A и B, а затем получить нужное кол-во данных, используйте этот инструмент .
Очень важно, повторюсь, запускать эксперимент при одних и тех же условиях. В идеале мы берём неделю, на которой нет ни праздников, ничего остального и параллельно тестируем варианты. Вернёмся к сервису.
Благодаря этому сервису вы поймете размер выборки для каждого из вариантов.
Подробнее по пунктам:
- Существующий уровень конверсии. Или, например, сколько процентов из всех пользователей сейчас нажимают кнопку.
- Минимально значимое изменение, которое нас интересует. На сколько мы хотели бы изменить базовый показатель конверсии.
- Значимое отклонение, которое мы ввели на предыдущем шаге показывает, что конверсия может увеличится, так и уменьшиться.
- Вы выбираете значение: absolute (абсолютный) или relative (относительный). Выбирайте то значение, которое хотите получить. Если у вас baseline уровень конверсий равен 30% (как в примере с картинки) и вы хотите повысить его на 5% с помощью ab тестов, то выбирайте “relative”. То есть, финальный результат изменения в случае успешности эксперимента будет 5% от 30%, то есть 31,5%.
- Размер выборки для каждого варианта. Сколько мы должны раз показать страницу отдельно A и страницу B, чтобы сделать выводы по эксперименту. Очень важно! Чтобы сделать выводы по эксперименту, мы показываем 24 409 раз A и 24 409 раз B!
- Статистическая значимость. На сколько точный эксперимент мы хотим провести.
- Погрешность p-value. Какую вероятность ошибки допускаем.
Можно ли останавливать эксперимент раньше?
Можно. Существует вариант, когда мы можем не дожидаться окончания эксперимента, а на определенном этапе уже сделать выводы. Для этого используйте уже известный инструмент, вкладка “ Sequental Sampling “.
По шагам:
- Вбиваете свой уровень конверсии сейчас. К примеру 30%, именно столько из 100% заходящих к нам на страницу нажимает кнопку.
- Набираете, на сколько вы хотели бы повысить ранее введенный показатель. Поставил на 10%. Было 30, хочу до 33 поднять.
- Кол-во конверсий одного из экспериментов, после которого останавливаем эксперимент и принимаем решение.
- Разница в конверсиях между вариантом A и B, после которой останавливаем эксперимент и берем, тот, что больше набрал.
- Выставляем уровень значимости 95% (как положено, см.выше материал).
- Устанавливаем погрешность p-value (опять же, см.выше материал).
Здесь нет никакой хитрости, просто статистика. Используйте этот инструмент, когда эксперименты занимают много ресурсов (время на разработку, бюджеты на рекламу для проверки гипотез и т.д.). Теперь у вас есть два правила, при которых вы можете останавливать эксперимент и делать выводы.
Чем проводить AB test?
Готовые решения:
- Optimizely, vwo.com, zarget.com
- http://alternativeto.net/software/optimizely
- Google Analytics (ссылка как проводить)
Собственное решение:
- Пишем админку.
- Пишем и настраиваем каждый эксперимент.
Вот про 10 сервисов для AB test. Есть из чего выбрать.
Всё
Теперь у вас есть общее представление, что такое AB test, какие существуют нюансы и какими инструментами его проводить. В заключение добавлю что данное исследование гипотез является одним из самых полезных в развитии digital проекта. Разве не прекрасно, что можно проверить практически любую идею? Главное правильно, теперь вы знаете как.
Резкий скачок конверсии не отражается на продажах? А может, его просто не существует? Если основывать решения на ложных итогах теста, в лучшем случае вы упускаете шанс оптимизации, в худшем - снижаете конверсию.
К счастью, есть способ это предотвратить. Что такое A/A тестирование, как его провести - читайте в статье.
Ложноположительный результат
Допустим, вы оцениваете комбинации кнопки и заголовка. Когда достоверность достигает 99%, делаете выводы и применяете на практике.
Через несколько бизнес-циклов наблюдаете: обновленный дизайн не приносит ожидаемой прибыли. А ведь вы проводили тестирование, вкладывали в него время и ресурсы!
Это ложноположительный результат, известный также, как «статистическая ошибка первого типа» и «ошибочное отклонение верной нулевой гипотезы». Он встречается чаще, чем вы думаете - примерно в 80% случаев.
Почему это происходит?
Эффект инструмента
В начале эксперимента важно убедиться, что конфигурация инструмента правильная и он работает как надо. Иначе - риск получить:
- Неверные показатели . Всего одна ошибка может исказить данные A/B тестирования. Как минимум, интегрируйте с Google Analytics для перепроверки.
- Неверное отображение посадочной страницы . Убедитесь, что лендинги выглядят корректно на всех устройствах и браузерах, и посетители не сталкиваются с фликкер-эффектом. вызывает эту же проблему.
- Преждевременное завершение теста . Иногда софт объявляет «победителя» слишком рано - при недостаточных размере или репрезентативности выборки. Помните: если вы достигли статистической значимости, это не значит, что пора прекращать тест. Чем он дольше, тем точнее результаты.
Смотрите в оба: любые из этих признаков ведут к ложному выводу. Отслеживайте каждую цель и метрику. Если какой-либо показатель не фиксируется (например, добавления товара в корзину), остановите тест, устраните проблему, и начните снова.
A/A vs A/B
A/B тест пригоняет трафик на контрольную версию и вариацию и показывает, какая работает лучше.
A/A - то же самое, только для двух одинаковых страниц. Цель - не увидеть различий в их показателях.
Только 20% экспериментов дают достоверные результаты. Статистической значимости и большой репрезентативной выборки недостаточно. Поэтому профессионалы используют эту технику до A/B теста.
Как видите, эти типы дополняют друг друга.
Если в конце эксперимента показатели конверсии обеих страниц совпадают, можно запускать A/B тест. На практике не всегда все проходит гладко.
Пример 1. Как страница может переиграть своего клона
Это лендинг, который тестировала команда Copyhackers в ноябре 2012 года:
Через 6 дней система тестирования отметила «победивший» вариант при уровне достоверности 95%. Ради точности эксперимент продлили на день - и достигли 99,6% точности:
Страница на 24% эффективнее, чем точно такая же? Результат ложноположительный. Еще через 3 дня различия исчезли:
Вывод: тест слишком рано вычислил победителя.
Пример 2. Как ничего не делать и повысить конверсию на 300%
Что мы видим:
- 9% - рост показателя открытия писем;
- На 300% выросло количество переходов по ссылкам;
- На 51% упал показатель отписок от рассылки.
И все бы ничего, но это A/A тест! Контент, который конкурирует друг с другом, абсолютно идентичный.
Стоит ли проводить A/A тесты
Известный эксперт Нил Патель наблюдал большие скачки конверсии без увеличения выручки. Он советует первым делом тестировать софт, чтобы потом не расхлебывать последствия неверных решений.
По мнению Пипа Лайя, основателя агентства ConversionXL, тесты сами по себе трата времени.
Кому верить? С одной стороны, точность превыше всего, и метод A/A - способ ее обеспечить. С другой - трата ресурсов на тестирование, а также подготовку к нему.
Крейг Салливан, эксперт по пользовательскому опыту, считает, что 40 тестов в месяц - высокая нагрузка для сотрудников. Лучше убить полдня на QA, чем 2-4 недели на то, чтобы просто проверить работу инструмента.
Проблема №1 . A/A тесты занимают время и трафик, которые вы можете потратить на изучение поведения посетителей сайта.
Проблема №2 . И A/B, и A/A нужно тщательно организовывать и мониторить, чтобы не получить ложный результат. Как в примере от Copyhackers.
Потратить время или рискнуть надежностью ПО при принятии решения - решать вам.
Есть потенциально менее затратный вариант - A/A/B.
A/A/B vs A/A
Традиционное A/A тестирование ничего не говорит о посетителях. Но если добавить в процесс еще вариант - другое дело.
A/A = конкурируют 2 одинаковые страницы.
A/A/B = A/A тест + одна дополнительная вариация.
Вы поймете, стоит ли доверять инструменту. Если да, выбираете лучшую версию в соответствии с его показаниями. Если нет, их не стоит применять.
Да, нужно больше времени, чтобы достичь статистической значимости. Зато вы оцениваете и софт, а если он подтвердит свою надежность, - и поведение посетителей.
Заключение
Перевешивают ли выгоды A/A тестирования его недостатки? Нет однозначного ответа. Проводить тестирование ежемесячно - лишнее. Достаточно - при использовании нового софта (сервиса для проведения тестов). Для тех, кому совсем жалко времени, есть компромиссный вариант - A/A/B тест.
Если вы исключите ошибки сегодня, получите более точные итоги в будущем.
Высоких вам конверсий!
Обзор сервисов для A/B тестирования
Пробуем сервисы, которые помогают менять сайт к лучшему
A/B тестирование — маленький эксперимент, который проводится над пользователями сайта. Его суть — проверять гипотезы.
Если вы думаете, что пользователи сайта будут чаще кликать на фото модели в бикини, а не на бизнесмена в очках, это легко подтвердить или опровергнуть. Создайте две странички, на одну поместите бизнесмена, на другую — модель. И ждите. А время покажет, правы вы или нет. Аудитория сайта действием проголосует за тот вариант, который им симпатичнее. И так, проводя A/B тестирования и наблюдая за поведением пользователей, можно постепенно подгонять сайт под их вкусы и хотелки.
Подробнее об A/B тестировании мы писали в . Но чего-то в ней не хватало. Мы её покрутили, повертели, посмотрели на свет. И поняли — нужен обзор инструментов для тестирования! Итак, приступим.
Google Analytics Experiments
Google Anatytics умеет многое, просто скромно об этом умалчивает. Если в нем поковыряться, можно настроить A/B тестирование (или запрограммировать телефоны на Android на самоуничтожение — как повезет). Это удобно, если вы и так пользуетесь Analytics, немного можете в код или у вас есть знакомые разработчики, которые сделают страничку для тестирования.
Плюсы:
Удобно для пользователей, привыкших к Google Anatytics. Есть русский язык. И, главное, сервис бесплатный.
Минусы: Нет визуального редактора. Если элементы, которые вы хотите протестировать, не изменить через админку сайта, а перепрограммировать самостоятельно скила не хватает — придется обращаться к разработчикам.
Цена: Бесплатно.
Сервис прост и понятен. На каждом этапе — подсказки, что делать и зачем. В визуальном редакторе можно изменить текст, картинки и структуру сайта. Все элементарно: изменили сайт в редакторе, добавили код на страницу-оригинал и наблюдаете за результатами. Для сбора статистики сервис интегрируется с Яндекс.Метрикой.
Плюсы: Есть простой визуальный редактор. Поддерживается русский язык. .
Минусы: Визуальный редактор слишком прост. По-хорошему он работает только с текстом и изображениями. А вот со структурой не поиграться: RealROI предлагает элемент либо скрыть, либо удалить. Заменить, подвинуть, поменять форму — ничего этого сделать нельзя.
И у нас есть подозрение, что функция «Отправить код разработчику» не работает. Мы трижды пробовали, а письма все нет. Поэтому отправлять код рекомендуем самостоятельно, старым-добрым Ctrl+C — Ctrl+V.
Цена: Бесплатно.
В этом инструменте уже больше фишек. Визуальный редактор позволяет творить любое безумие: элементы можно менять, двигать, добавлять, удалять. Сервис позволяет запустить тест в заданную дату или приостановить поток трафика на страницу (может пригодиться в эксперименте, где участвует более 2 вариантов). Можно настроить таргетинг и персонализацию.
Плюсы: Удобный визуальный редактор — программисты не нужны, чтобы создавать страницы для тестирования. Сервис интегрируется с Google Analytics, WordPress и другими системами аналитики и CRM.
Минусы: Русский язык вроде бы есть, но чем сильнее углубляешься в сайт, чем сложнее становятся термины — тем его меньше.
Нет триальной версии. Можно потестировать визуальный редактор, но про остальные функции узнаёшь только из описаний.
Цена: 39 $ в месяц, если вам хватит 5 000 протестированных пользователей. Тариф пожирнее — 140 $ в месяц, позволяет протестировать сайт на 40 000 уникальных посетителях. 200 000 протестированных пользователей в месяц стоят 390 $. При оплате сразу за год — скидка на все тарифы.
Сервис, который может устроить A/B для компьютеров и мобильных устройств. В визуальном редакторе VWO можно сразу пометить цель для кликов. Остальные — добавить в следующем шаге.
Сервис предлагает посмотреть карту кликов, добавить всплывающие окна и рассылать пользователям, которые что-либо купили на сайте, призыв оставить отзыв.
А еще у VWO есть галерея идей. Вроде бы мелочь, а приятно. И полезно: владельцу сайта не нужно придумывать самому, что бы такого потестировать. Он может выбрать из вариантов, которые подготовили профессионалы. Идеи можно фильтровать по отрасли, сложности и затраченному времени. Очень круто.
Плюсы: Много функций, и везде — подсказки и инструкции. Понятный визуальный редактор заставляет программистов нервно курить в сторонке. Есть триальная версия на 30 дней. VWO интегрируется с Google Analytics, WordPress и еще 12 сервисами.
Минусы: Нет русского языка. И поэтому подсказки могут не помогать, а бесить.
Цена: Если на сайте ежемесячно менее 10 000 посетителей, стоимость сервиса — 59 $ в месяц. До 30 000 посетителей — 155 $, до 100 000 людей на сайте — 299 $, и так по нарастающей. Традиционно, при оплате за год — скидка.
Предлагает A/B, мультивариантное и сплит-тестирование, персонализацию. Цель для кликов можно пометить в визуальном редакторе.
Функций меньше, чем у некоторых конкурентов из обзора, зато у Convert (осторожно, сейчас будет очень субъективное мнение) самый удобный визуальный редактор в плане выделения и перетаскивания объектов. У других сервисов рамки объекта дрожат, как будто пользователь на них с топором набрасывается, а не аккуратно трогает мышкой.
Поймать рамку, изменить размер объекта и передвинуть его в редакторе A/B Tasty — испытание не для слабонервных. А в Convert все проходит гладко, приятно. Единственное — чтобы отредактировать текст, придется запустить руки в CSS-код.
Плюсы:
Удобный визуальный редактор, интеграция с 35 сервисами аналитики и CRM, бесплатный триальный период — 15 дней. Можно настраивать тесты под мобильные устройства.
Минусы: Нет русского языка. Визуальный редактор приятный, но в нем придется копаться и разбираться.
Цена: Тариф Lite (легкий, ага) — 499 $ в месяц за 400 000 посетителей, без техподдержки. Хотите, чтобы сотрудники сервиса вам помогали? Доплачивайте ещё 200 $. Чем больше посетителей, тем выше цена. Если оплатить сервис на год вперед — будет скидка.
A/B тестирование
A/B тестирование как способ управления конверсией
A/B тестирование - один из самых эффективных маркетинговых инструментов, который используется для оценки и управления конверсией сайта. Инструмент облегчит работу маркетолога - он встроен в продукт и не требует дополнительных настроек. В продукте доступно шесть готовых сценариев A/B тестирования - новый дизайн, главная страница, детальная карточка товара, страницы корзины, страница оформления заказа и произвольно выбранная страница. На основании тестирования будет выбран наиболее эффективный вариант для показа.
Воспользоваться инструментом может обычный контент-менеджер, поскольку система все делает сама и не требуется ничего программировать. Достаточно выбрать один из предустановленных тестов, запустить его и получить подробные отчеты по эффективности.
Для чего нужны А/В тесты
Как изменения могут отразиться на конверсии?А/В тестирование - один из лучших способов для увеличения конверсии страниц и интернет-магазина. Главная цель А/В тестирования – выяснить, какие именно составляющие сайта нравятся посетителям больше, работают лучше, а, значит, и повышают конверсию. Особенно эффективны А/В тесты для сайтов с большим трафиком.
Что именно изменить?
Хотите что-то изменить на сайте для улучшения конверсионных показателей? Проведите А/В тестирование, выясните, как изменения отразятся на этих показателях.
Даже небольшие эксперименты с контентом сайта могут изменить конверсию. В большую или меньшую сторону? Пройдите испытания, перед тем как радикально изменить, например, свои рекламные предложения.
Сделать А/В тест вручную очень сложно для обычного пользователя. Собирать данные, проводить анализ и вычислять наиболее удачные варианты страниц - все это связано с большими трудозатратами. Обращаться к услугам специальных сервисов - долго и дорого.
В продукте - готовые А/В тесты - абсолютно бесплатно!
Протестируйте новый шаблон сайта
Готовые А/В тесты
Готовые А/В тесты
Не нужно программировать, не нужно настраивать!Провести A/B тестирование самостоятельно очень сложно. Несмотря на то, что это один из самых эффективных инструментов, делают это крайне редко. «1С-Битрикс» представляет уникальный инструмент, позволяющий каждому клиенту за 5 минут провести A/B тестирование своими силами.
Шаблоны готовых тестов
В вашем распоряжении - встроенные инструменты А/В тестирования. Теперь вы легко можете проверить, какой вариант страницы работает эффективнее. С продуктом «1С-Битрикс: Управление сайтом» вы получаете комплект готовых тестов. Все тесты встроены в продукт и не требуют дополнительных технических настроек.
Тестируйте, вносите изменения на сайт и получайте прибыль.
6 сценариев A/B тестирования:
- Новый дизайн
- Главная страница
- Детальная карточка товара
- Страницы корзины
- Страница оформления заказа
- Произвольная выбранная страница
Список предустановленных тестов будет пополняться!
Не нужно программировать!
Нужный тест достаточно выбрать из списка предустановленных и запустить. Для выполнения теста достаточно знаний и прав обычного контент-менеджера.
Пройдите тест перед сменой дизайна
Воспользоваться инструментом может обычный пользователь, поскольку система все делает сама и не требует ничего программировать. Достаточно выбрать один из предустановленных тестов, запустить его и получить на руки подробные отчеты по эффективности. Система сама скопирует нужную вам страницу!
Отчеты и аналитика
Подробные отчеты по эффективности
Полная аналитика для выбора лучшего варианта!Узнайте с помощью нового инструмента, как скажется на конверсии магазина смена дизайна сайта, перестройка главной страницы, новое представление карточки товара, иная сортировка товара в каталоге и другие изменения. Достаточно выбрать и запустить нужный тест.
- Графики
- Сводные данные
- Воронка
Следует учитывать, что конверсия будет высчитываться по тем счетчикам, которые были выбраны в настройках модуля .
Отчеты по тестам В любой момент после запуска теста, даже не дожидаясь его окончания, можно посмотреть отчет о проводимом тестировании.
Сделайте свой интернет-магазин самым продающим!
Любой маркетолог может сам запустить тестирование за 5 минут!
«B» - это то, с чем вы будете экспериментировать (новый дизайн).