Владимир Абазов, Александр Сальников: АБ-тесты, ограничения и альтернативы

Встретились обсудить, что такое AБ-тесты, где такой подход хорошо работает и почему их все любят. Также разобрались, что может пойти не так при АБ-тестировании, какие есть ограничения и всегда ли подход Data Driven работает. 

В обсуждении участвовали невероятно крутые гости: Владимир Абазов и Александр Сальников 🔥 Владимир — ex Head of Analytics Delivery Club, Ex Chief Data and Analytics Officer Koshelek, сейчас директор по аналитике нефинансовых бизнес-линий в Тинькофф. Александр — директор по аналитике в приложении Кошелёк. 

Канал с анонсами https://t.me/megdu_skobok

Ламповый чат https://t.me/backend_megdu_skobkah

Boosty https://boosty.to/megdu_skobok

YouTube https://youtu.be/FPwJQPxCdDM

Полезные ссылки 

📖 Как оценить влияние чего-то без АБ теста? Part 1. https://www.linkedin.com/posts/vladimir-abazov-73863489_analytics-product-abtesting-activity-7089893143499677696-K0ux

📖 Как оценить влияние чего-то без АБ теста? (Part 2) https://www.linkedin.com/posts/vladimir-abazov-73863489_augautaugaurauoauyauoauqaug-bigdata-abtesting-activity-7092524558825447424-VDcS?utm_source=share&utm_medium=member_desktop

📖 Как оценить влияние чего-то без АБ теста? (Part 3) https://www.linkedin.com/posts/vladimir-abazov-73863489_bigdata-analytics-activity-7095031205590425600-ZPgN/

📖 Switchback-тестирование. Как бороться с социальными эффектами в A/B-тестах https://medium.com/statistics-experiments/switchback-тестирование-как-бороться-с-социальными-эффектами-в-a-b-тестах-39aab4f87cf7

Таймкоды 

00:00 Вводная часть, представление ведущих и анонсирование темы - АБ тестирование. 

01:30 Владимир Абазов и Александр Сальников, представление гостей.

03:30, что такое АБ-тесты, где они помогают? "Не навредил ли ты?"

06:50, АБ-тесты: инструмент для оценки причинно-следственных связей. 

08:50 Разве АБ тесты не инструмент для быстрого роста?

20:35 В некоторых случаях разумно запретить АБ-тесты?

23:25 на каком объеме пользователей делать АБ-тесты?

31:00 когда АБ-тест может не работать, и чем его можно заменить?

35:50 как изолировать друг от друга несколько последовательных тестов?

39:08, как изолировать группы от сетевых эффектов, когда пользователи могут общаться (телеграм, мессенджер)?

45:00 Зачем АБ-тесты - как ответить на собеседовании? какие еще трюки для замены АБ-тестов существуют?

55:55 Вопросы - как построить платформу для АБ тестирования? основные сложности. 

56:59 мотивация команд на правильную отправку данных в аналитику от Владимира. 

58:20 жизнь вообще без АБ-тестов. 

01:02:17 Data Driven подход против Vision Driven подхода...