Скорее всего дело именно в стартере.
А при повороте ключа (в положение завода двигателя), в тот момент когда не заводится, есть щелчок (открой капот, водительскую дверь и слушай)?
Если нет щелчка то скорее всего дело во втягивающем реле (это такой цилиндр на стартере, к которому подходят контакты стартера) или в контактах на нем.
Проверь эти самые контакты на втягивающем реле, они могут быть окислены. Зачисть все хорошенько,
да и не забудь перед этим отключить АКБ.
Если и это не поможет, то проблема внутри стартера.
В моем случае, проблема проявлялась на горячем двигателе (как минимум несколько часов езды). Если его попытаться завести после его остановки и простоя в 5-20 мин.
На холодную (или на остывшем моторе) заводилась всегда.
Я с этим долго мучался. Капиталить стартер не советую, хватило примерно на год (по деньгам вышло 100уе со снатием-установкой, при 50-90% износа внутренних деталей).
Лучше сразу бери новый, на М5 оригинал - где-то 450уе или Bosch - около 250уе.
Есть еще конторы торгующие стартерами (например стартер.ру - это не реклама

), у них еще дешевле, правда по качеству хз.