Как правильно: мучился или мучался

Фактически в русском языке имелись равноправные глаголы мучиться и мучаться.

Однако в процессе унификации орфографии в середине прошлого века глаголом мучаться в каком‑то смысле пришлось пожертвовать. Авторитетный орфографический словарь РАН под редакцией В. В. Лопатина признаёт допустимыми только его формы настоящего времени, которые по звучанию отличаются от соответствующих вариантов глагола мучиться: мучаюсь, мучаемся, мучаешься, мучаетесь, мучается, мучаются. Тем не менее в строгой литературной речи предпочтительны только мучиться, мучусь, мучишься, мучатся.

Что касается начальной формы — мучаться, она не соответствует современной орфографической норме. Вы не обнаружите этот глагол в названном выше академическом словаре.

То же самое относится и к прошедшему времени: допустимы только варианты мучился, мучилась, мучились. Форма мучался ошибочная — ведь по произношению она почти не отличается от мучился.