A mon sens il ne faut pas les supprimer, il y a plein de raisons à cela mais comment expliquer à quelqu'un qui débute pourquoi nous en sommes là, c'est faire une synthèse de plusieurs dizaines de réflexions, dur dur (et on cogite encore, cela sera encore différent en 1.6).

Non, ce qu'il est possible de faire sans perturber le résultat de l'affichage, c'est de masquer le pourtour.
dans content.css de tous les templates que tu laisses à disposition de tes utilisateurs, tu trouveras:

/* Thumbnails customization */
#content UL.thumbnails SPAN, #content UL.thumbnails SPAN.wrap2 A {
  width: 140px;      /* max thumbnail width + 2px */
}
#content UL.thumbnails SPAN.wrap2 {
  height: 140px;    /* max thumbnail height + 2px */
}
#content UL.thumbnails SPAN.wrap2 {
  border: 1px solid #aaaaaa;  /* thumbnails border color and style */
  -moz-border-radius: 4px;  /* round corners with Geko */
  border-radius: 4px 4px;  /* round corners with CSS3 compliant browsers */
}
#content UL.thumbnails SPAN.wrap2:hover {
  border-color: yellow;    /* thumbnails border color when mouse cursor is over it */
}

Je changerai #aaaaaa par ta couleur de fond #ffffff par exemple.
J'n'est pas testé mais ça marche.
yellow, aussi tu peux le changer #ffffff (white).