Acredito que você terá que criar uma subclasse de ListView e sobrescrever o método onDraw().
Comece por aqui:
http://developer.android.com/guide/topics/ui/custom-components.html
Consegui o efeito perfeito de transparencia no fundo e bordas circulares em cima e em baixo.Utilizei um Shape ;)
<ListView android:id="@+id/list" android:layout_width="wrap_content"
android:cacheColorHint="#00000000"
android:focusableInTouchMode="true" android:layout_marginTop="10sp"
android:scrollbars="none" android:background="@layout/coner"
android:layout_marginLeft="10sp" android:layout_marginRight="10sp"
android:drawSelectorOnTop="false" android:dividerHeight="0px"
android:footerDividersEnabled="true" android:headerDividersEnabled="true"
android:layout_span="3" android:layout_height="260px" />
corner.xml
<?xml version="1.0" encoding="utf-8"?>
<shape xmlns:android="http://schemas.android.com/apk/res/android"
android:shape="rectangle">
<gradient android:startColor="#80f8f2f2" android:endColor="#80f8f2f2" />
<corners android:bottomRightRadius="20dp" android:radius="20dp"
android:bottomLeftRadius="20dp" android:topLeftRadius="20dp"
android:topRightRadius="20dp" />
</shape>
Resultado final em anexo.
;)
Abraços!