お詫びの機会を作っていただいたお礼の意味でも持参したほうがいい
羊羹なんかが定番ですが相手の年齢に合わせて洋菓子でも問題ないと思います。