解:∵∫<0,π>x²sinxdx=(-x²cosx+2xsinx+2cosx)│<0,π> (应用分部积分法)
=π²-2-2
=π²-4
∫<0,π>sin³xdx=∫<0,π>(1-cos²x)sinxdx
=∫<0,π>(cos²x-1)d(cosx)
=(cos³x/3-cosx)│<0,π>
=-1/3+1-1/3+1
=4/3
∴∫∫
=∫<0,π>(x²sinx-sin³x/3)dx
=∫<0,π>x²sinxdx-(1/3)∫<0,π>sin³xdx
=(π²-4)-(1/3)(4/3)
=π²-40/9。