You should BE careful when you cross the street in the big c

不可以,因为前面是一般现在时,所以后面就不能是过去时.如果前面说：You should HAVE BEEN careful,那后面就可以用过去时.
时态好像难,其实也简单,你翻译过来想一想：
“你在大城市里过马路时应该小心.”这个意思里完全没有任何时间交代,只是总的来叙述一个意思,适用与任何时间,所以用一般时.